[发明专利]一种神经网络模型训练方法、装置及电子设备有效
申请号: | 201611034481.3 | 申请日: | 2016-11-16 |
公开(公告)号: | CN108073986B | 公开(公告)日: | 2020-05-12 |
发明(设计)人: | 何长青;王宇光;陈伟 | 申请(专利权)人: | 北京搜狗科技发展有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06K9/62 |
代理公司: | 北京华沛德权律师事务所 11302 | 代理人: | 马苗苗 |
地址: | 100084 北京市海淀区中关*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及模式识别领域,公开了一种神经网络模型训练方法、装置及电子设备,以解决现有技术中通过多计算设备异步更新算法训练神经网络模型时,训练的稳定性较低的技术问题。该方法包括:在对神经网络模型进行训练的过程中,如果至少两个第一计算设备训练的已训练轮数满足预设条件,基于所述神经网络模型的主模型的权重值对每个第一计算设备对应的所述主模型的副本的权重值进行同步更新,从而能够在不显著增加训练时间的情况下,增加了神经网络模型的权重值的同步策略,保证了主模型以及主模型的各个副本的权重值的一致性,从而达到了增加对神经网络模型训练的稳定性的技术效果。 | ||
搜索关键词: | 一种 神经网络 模型 训练 方法 装置 电子设备 | ||
【主权项】:
1.一种神经网络模型训练方法,其特征在于,包括:在对神经网络模型进行训练的过程中,确定出至少两个第一计算设备训练的已训练轮数;判断所述已训练轮数是否满足预设条件;如果所述已训练轮数满足所述预设条件,基于所述神经网络模型的主模型的权重值对每个第一计算设备对应的所述主模型的副本的权重值进行同步更新。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京搜狗科技发展有限公司,未经北京搜狗科技发展有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201611034481.3/,转载请声明来源钻瓜专利网。