联邦学习通信优化方法汇总
联邦学习通信优化方法汇总
·
- 2017-Federated Learning: Strategies for Improving Communication Efficiency
谷歌实验室- 结构化更新
- 低秩方法优化
- 随机掩码优化
- 草图更新
- 子采样
- 概率量化(对上一方法的改进)
- 带结构化随机选择改进量化(对上一个方法的改进)
- 结构化更新
- Topk稀疏化的压缩技术
- 2022-SmartIdx: Reducing Communication Cost in Federated Learning by Exploiting the CNNs Structures
哈工大- SmartIdx:利用 CNN 结构减少联邦学习中的通信成本
- TopK:选择变化较大的参数(作为重要参数)进行优化
- 之后将继续更新……

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐
所有评论(0)