[发明专利]混合精度深度学习算法在审
申请号: | 201611132257.8 | 申请日: | 2016-12-09 |
公开(公告)号: | CN106650931A | 公开(公告)日: | 2017-05-10 |
发明(设计)人: | 许建卫;刘立;窦晓光 | 申请(专利权)人: | 曙光信息产业(北京)有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08 |
代理公司: | 北京德恒律治知识产权代理有限公司11409 | 代理人: | 章社杲,卢军峰 |
地址: | 100193 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及深度学习算法的技术领域,具体涉及一种混合精度深度学习算法;所要解决的技术问题在于提供一种既保证了计算精度不变,又提高了计算效率的混合精度深度学习算法;采用的技术方案为包括以下步骤S101、利用单精度众核处理器进行前向传播计算,对每一网络层计算出每一个神经元的值;S102、利用单精度众核处理器进行后向传播计算,对每一网络层计算出误差残量值;S103、利用单精度众核处理器计算权值的增量;S104、将单精度众核处理器计算出的增量权值更新到高精度众核处理器计算出的增量权值上,完成一次迭代计算。本发明适用于深度学习领域。 | ||
搜索关键词: | 混合 精度 深度 学习 算法 | ||
【主权项】:
混合精度深度学习算法,其特征在于:包括以下步骤:S101、利用单精度众核处理器进行前向传播计算,对每一网络层计算出每一个神经元的值;S102、利用单精度众核处理器进行后向传播计算,对每一网络层计算出误差残量值;S103、利用单精度众核处理器计算权值的增量;S104、将单精度众核处理器计算出的增量权值更新到高精度众核处理器计算出的增量权值上,完成一次迭代计算。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于曙光信息产业(北京)有限公司,未经曙光信息产业(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201611132257.8/,转载请声明来源钻瓜专利网。