[发明专利]混合精度深度学习算法在审
| 申请号： | 201611132257.8 | 申请日： | 2016-12-09 |
| 公开（公告）号： | CN106650931A | 公开（公告）日： | 2017-05-10 |
| 发明（设计）人： | 许建卫;刘立;窦晓光 | 申请（专利权）人： | 曙光信息产业（北京）有限公司 |
| 主分类号： | G06N3/08 | 分类号： | G06N3/08 |
| 代理公司： | 北京德恒律治知识产权代理有限公司11409 | 代理人： | 章社杲,卢军峰 |
| 地址： | 100193 北京*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | |||
| 搜索关键词： | 混合 精度 深度 学习 算法 | ||
【权利要求书】：
1.混合精度深度学习算法，其特征在于：包括以下步骤：
S101、利用单精度众核处理器进行前向传播计算，对每一网络层计算出每一个神经元的值；
S102、利用单精度众核处理器进行后向传播计算，对每一网络层计算出误差残量值；
S103、利用单精度众核处理器计算权值的增量；
S104、将单精度众核处理器计算出的增量权值更新到高精度众核处理器计算出的增量权值上，完成一次迭代计算。
2.根据权利要求1所述的混合精度深度学习算法，其特征在于：所述混合精度深度学习算法发生于深度学习的迭代后期。
3.根据权利要求1所述的混合精度深度学习算法，其特征在于：步骤102中，所述进行后向传播计算，对每一网络层计算出误差残量值，具体包括：
将上一层的残差乘以当前层的权值，并与当前层的梯度做乘法，得出所有层的误差残量值。
4.根据权利要求1所述的混合精度深度学习算法，其特征在于：步骤103中，所述计算权值的增量，具体包括：
利用后向传播中计算出来的每一网络层的残差值，通过梯度等计算出权值变化量。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于曙光信息产业（北京）有限公司，未经曙光信息产业（北京）有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/pat/books/201611132257.8/1.html，转载请声明来源钻瓜专利网。
