[发明专利]一种神经网络训练方法及装置有效
申请号: | 201810702883.9 | 申请日: | 2018-06-30 |
公开(公告)号: | CN110659731B | 公开(公告)日: | 2022-05-17 |
发明(设计)人: | 张悠慧;张优扬;刘鹤;毕舒展;鲁芳敏;杨弢;程捷 | 申请(专利权)人: | 华为技术有限公司;清华大学 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06N3/04 |
代理公司: | 北京中博世达专利商标代理有限公司 11274 | 代理人: | 申健 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请实施例公开了一种神经网络训练方法及装置,涉及神经网络领域。能够在保证神经网络精度的情况下,压缩网络模型,减小忆阻器器件噪音对神经网络的准确性的影响。该方法可以包括:将第一权重矩阵中绝对值小于或者等于预设门限的元素进行剪枝操作获取第二权重矩阵;对于第二权重矩阵的每个元素加噪音获取第三权重矩阵;将根据第三权重矩阵进行前向传播的结果与目标值进行比较,获得损失值;根据损失值与第一权重矩阵进行反向传播获取目标权重矩阵;其中第一权重矩阵为预设权重矩阵。 | ||
搜索关键词: | 一种 神经网络 训练 方法 装置 | ||
【主权项】:
1.一种神经网络训练方法,其特征在于,包括:/n将第一权重矩阵中绝对值小于或者等于预设门限的元素进行剪枝操作获取第二权重矩阵,所述第一权重矩阵为预设权重矩阵;/n对于所述第二权重矩阵的每个元素加噪音获取第三权重矩阵;/n将根据所述第三权重矩阵进行前向传播的结果与目标值进行比较,获得损失值;/n根据所述损失值与所述第一权重矩阵进行反向传播获取目标权重矩阵。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司;清华大学,未经华为技术有限公司;清华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201810702883.9/,转载请声明来源钻瓜专利网。