[发明专利]基于冷热分离的梯度聚合方法与系统有效
| 申请号： | 202110861852.X | 申请日： | 2021-07-29 |
| 公开（公告）号： | CN113642736B | 公开（公告）日： | 2023-09-12 |
| 发明（设计）人： | 潘恒;崔鹏来;贾茹;李振宇;谢高岗 | 申请（专利权）人： | 中国科学院计算技术研究所 |
| 主分类号： | G06N20/00 | 分类号： | G06N20/00 |
| 代理公司： | 北京律诚同业知识产权代理有限公司 11006 | 代理人： | 祁建国 |
| 地址： | 100080 北*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种基于冷热分离的梯度聚合方法，包括以下步骤：对稀疏场景的训练数据进行随机采样以对稀疏模型进行预训练；统计该稀疏模型的预训练过程中参数的频率，并根据该频率的大小将该参数分类为热参数或冷参数；利用该稀疏场景的训练数据对该稀疏模型进行重新训练，各训练节点分别传输该重新训练过程中的热参数梯度和冷参数梯度；该热参数梯度在可编程交换机上进行聚合后发送至远程服务器进行同步，该冷参数梯度由该可编程交换机直接该发送至远程服务器上进行聚合及同步。 | ||
| 搜索关键词： | 基于 冷热 分离 梯度 聚合 方法 系统 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于中国科学院计算技术研究所，未经中国科学院计算技术研究所许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202110861852.X/，转载请声明来源钻瓜专利网。
