[发明专利]一种个性化联邦学习权重压缩方法在审
| 申请号: | 202210284196.6 | 申请日: | 2022-03-22 |
| 公开(公告)号: | CN114692897A | 公开(公告)日: | 2022-07-01 |
| 发明(设计)人: | 熊章银;文世挺;吕龙进;叶朝伟;肖辉;庞超逸 | 申请(专利权)人: | 浙大宁波理工学院 |
| 主分类号: | G06N20/20 | 分类号: | G06N20/20;G06N3/08;G06N3/04 |
| 代理公司: | 宁波甬致专利代理有限公司 33228 | 代理人: | 胡天人 |
| 地址: | 315100 浙江*** | 国省代码: | 浙江;33 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | 本发明涉及一种个性化联邦学习权重压缩方法,将每个客户端的神经网络模型分为全局共享层和个性化层,客户端与服务器之间只传输全局共享层的权重,个性化层则在客户端本地更新;同时采用在预热训练和权重稀疏训练的基础上增加权重累积的方法,预热训练过程中不进行权重压缩,能够提升神经网络模型的准确率,权重稀疏是指每轮训练只传输大于预定义阈值的权重值;权重累积是指每轮训练都在本地累积上轮训练的权重值,让小权重逐渐累积变大也有机会被传输,使得神经网络模型中较小的权重值也能全局更新,有效地提升权重压缩的精度,降低精度损失,同时也减少了客户端和服务器之间的传输的权重参数,降低了客户端和服务器之间的通信代价。 | ||
| 搜索关键词: | 一种 个性化 联邦 学习 权重 压缩 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙大宁波理工学院,未经浙大宁波理工学院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202210284196.6/,转载请声明来源钻瓜专利网。





