[发明专利]分布式并行的深度学习方法及系统在审
申请号: | 201910577968.3 | 申请日: | 2019-06-28 |
公开(公告)号: | CN112149819A | 公开(公告)日: | 2020-12-29 |
发明(设计)人: | 刘若鹏;栾琳;季春霖;陈峰 | 申请(专利权)人: | 杭州光启人工智能研究院 |
主分类号: | G06N3/08 | 分类号: | G06N3/08 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 古利兰 |
地址: | 310000 浙江省杭州市余杭*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供一种分布式并行的深度学习方法、处理器及系统,该方法适用于由N个处理器构成的分布式并行的深度学习系统,具体内容为:每个处理器将用于训练神经网络模型的训练数据划分为N个第一梯度块。每个处理器对N个第一梯度块进行N‑1次迭代累积处理,得到每个处理器对应的N个第二梯度块。每个处理器对N个第二梯度块进行N‑1次迭代覆盖处理,得到每个处理器对应的N个第三梯度块,完成对神经网络模型的训练。本方案中,预先将训练数据划分为N个梯度块,并利用每个处理器分别对N个梯度块进行N‑1次迭代累积和迭代覆盖处理,完成对神经网络模型的训练,降低训练周期、训练成本和提高训练效率。 | ||
搜索关键词: | 分布式 并行 深度 学习方法 系统 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州光启人工智能研究院,未经杭州光启人工智能研究院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910577968.3/,转载请声明来源钻瓜专利网。
- 上一篇:一种光纤扫描器
- 下一篇:一种基于社交平台小游戏的用户组队方法