[发明专利]一种分布式深度学习的通信优化方法及系统有效
| 申请号： | 201910035739.9 | 申请日： | 2019-01-15 |
| 公开（公告）号： | CN109951438B | 公开（公告）日： | 2020-11-20 |
| 发明（设计）人： | 刘万涛;陆取;虎嵩林;韩冀中 | 申请（专利权）人： | 中国科学院信息工程研究所 |
| 主分类号： | H04L29/06 | 分类号： | H04L29/06;H04L29/08;G06N20/00 |
| 代理公司： | 北京君尚知识产权代理有限公司 11200 | 代理人： | 邱晓锋 |
| 地址： | 100093 *** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明涉及一种分布式深度学习的通信优化方法及系统。该方法包括：1)对于分布式深度学习的训练过程中各计算节点产生的梯度，采用稀疏化方法选取部分梯度值；2)对采用稀疏化方法选取的部分梯度值进行量化，将量化后的梯度值作为梯度通信的传输对象，传输给参数服务器。本发明提出了梯度的稀疏化传递和量化压缩的结合，并且针对训练过程中的不同特点划分了三个不同的训练阶段，根据不同的训练状况进行调整，将梯度压缩的效果进一步提升，提高了分布式场景下的训练效率，并且没有对收敛性能和模型的精度产生明显的负面影响。 | ||
| 搜索关键词： | 一种 分布式 深度 学习 通信 优化 方法 系统 | ||
【主权项】：
1.一种分布式深度学习的通信优化方法，其特征在于，包括以下步骤：1)对于分布式深度学习的训练过程中各计算节点产生的梯度，采用稀疏化方法选取部分梯度值；2)对采用稀疏化方法选取的部分梯度值进行量化，将量化后的梯度值作为梯度通信的传输对象，传输给参数服务器。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于中国科学院信息工程研究所，未经中国科学院信息工程研究所许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201910035739.9/，转载请声明来源钻瓜专利网。
