[发明专利]一种神经网络训练方法有效
| 申请号： | 201410360578.8 | 申请日： | 2014-07-25 |
| 公开（公告）号： | CN104134091B | 公开（公告）日： | 2017-01-18 |
| 发明（设计）人： | 刘龙;高伟杰;周玉 | 申请（专利权）人： | 海信集团有限公司 |
| 主分类号： | G06N3/08 | 分类号： | G06N3/08 |
| 代理公司： | 北京同达信恒知识产权代理有限公司11291 | 代理人： | 黄志华 |
| 地址： | 266100 山*** | 国省代码： | 山东;37 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明实施例涉及人工智能和模式识别技术领域，尤其涉及一种神经网络训练方法，用以解决现有技术中训练过程收敛速度慢的问题。本发明实施例的方法包括获取神经网络基于第k次迭代过程所使用的学习率对n个样本进行迭代后输出的n*m个标签值预测值；计算第一参数；其中，第i标签值的第一参数为所述n个样本的第i标签值预测值与第i标签值真实值之间的误差的平均值；根据所述第一参数调整所述神经网络的第k+1次迭代过程所使用的学习率。由于基于标签值的误差的情况，对下一次迭代过程的学习率进行调整，从而可引导训练过程以高效的方式快速向全局最优的方向进行收敛。 | ||
| 搜索关键词： | 一种 神经网络 训练 方法 | ||
【主权项】：
一种神经网络训练方法，其特征在于，包括以下步骤：利用n个样本对神经网络进行迭代，在第k次迭代之后执行：获取神经网络基于第k次迭代过程所使用的学习率对n个样本进行迭代后输出的n*m个标签值预测值；其中，每个样本对应m个标签值预测值，每个样本的m个标签值预测值包括第一标签值预测值至第m标签值预测值；其中，n、m、k均为正整数，k大于1；针对第一至第m标签值预测值中的每个标签值预测值，计算第一参数，其中，第i标签值的第一参数为所述n个样本的第i标签值预测值与第i标签值真实值之间的误差的平均值，i的取值范围为[1，m]；根据所述第一参数调整所述神经网络的第k+1次迭代过程所使用的学习率；其中，所述根据第一参数调整所述神经网络的第k+1次迭代过程所使用的学习率，包括：根据所述第一参数计算第二参数；其中，第i标签的第二参数为所述第i标签值的第一参数的方差；根据所述第一参数和第二参数调整所述神经网络的第k+1次迭代过程所使用的学习率。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于海信集团有限公司，未经海信集团有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201410360578.8/，转载请声明来源钻瓜专利网。
- 上一篇：一种基于RFID的环卫监控系统
- 下一篇：特定条形码及其形成方法
