[发明专利]分布式深度学习的梯度量化方法和系统有效
| 申请号： | 201910956330.0 | 申请日： | 2019-10-10 |
| 公开（公告）号： | CN112651411B | 公开（公告）日： | 2022-06-07 |
| 发明（设计）人： | 李东升;葛可适;符永铨 | 申请（专利权）人： | 中国人民解放军国防科技大学 |
| 主分类号： | G06K9/62 | 分类号： | G06K9/62;G06F16/906 |
| 代理公司： | 长沙国科天河知识产权代理有限公司 43225 | 代理人： | 董惠文 |
| 地址： | 410073 湖*** | 国省代码： | 湖南;43 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本申请涉及一种分布式深度学习的梯度量化方法和系统。所述方法包括：获取各个分布式的worker节点计算得到的梯度值，根据梯度值建立一维梯度数组，对一维梯度数组中进行随机采样，对采样得到的梯度值进行聚类，根据聚类结果，建立多个哈希表，根据梯度值对应的类簇，将一维梯度数组中的梯度值插入多个哈希表的哈希桶中，根据梯度值对应的数组序号和梯度值存入所述哈希桶的类簇，生成映射关系表，将插入梯度值的多个哈希表和映射关系表发送给参数服务器完成深度学习的梯度量化。采用本方法能够提高梯度量化的效率。 | ||
| 搜索关键词： | 分布式 深度 学习 梯度 量化 方法 系统 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于中国人民解放军国防科技大学，未经中国人民解放军国防科技大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201910956330.0/，转载请声明来源钻瓜专利网。
