[发明专利]分布式训练路由方法、系统、储存介质及计算机设备有效
申请号: | 202110082811.0 | 申请日: | 2021-01-21 |
公开(公告)号: | CN112702267B | 公开(公告)日: | 2023-04-07 |
发明(设计)人: | 武继刚;陈招红;龙鑫;陈龙;孙为军 | 申请(专利权)人: | 广东工业大学 |
主分类号: | H04L45/12 | 分类号: | H04L45/12;H04L45/48 |
代理公司: | 广州粤高专利商标代理有限公司 44102 | 代理人: | 张金福 |
地址: | 510090 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明针对基于数据融合的分布式机器学习训练中的通信瓶颈,提出了一种分布式训练路由方法、系统、储存介质及计算机设备,其通过在构建梯度更新上传多播树时,根据不同节点发送梯度更新数据的时延差异,将工作节点以最小的跳数加入梯度更新上传多播树中,从而能够最小化对网络资源的占用;同时,本发明利用工作节点计算能力不一致所导致的节点上传梯度更新数据时间有差异的特性,把梯度更新数据路由到同一节点进行数据融合,减小网络中传输的数据量,能显著缓解分布式机器训练过程的通信负载,从而加快分布式机器训练进程。 | ||
搜索关键词: | 分布式 训练 路由 方法 系统 储存 介质 计算机 设备 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广东工业大学,未经广东工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202110082811.0/,转载请声明来源钻瓜专利网。
- 上一篇:一种换药用便携式消毒箱
- 下一篇:一种具有双工质的高效超临界二氧化碳锅炉