[发明专利]神经网络参数矩阵的稀疏化方法和装置在审
申请号: | 201910814977.X | 申请日: | 2019-08-30 |
公开(公告)号: | CN110516806A | 公开(公告)日: | 2019-11-29 |
发明(设计)人: | 蒋泳森 | 申请(专利权)人: | 苏州思必驰信息科技有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06F17/16 |
代理公司: | 11400 北京商专永信知识产权代理事务所(普通合伙) | 代理人: | 黄谦;邓婷婷<国际申请>=<国际公布>= |
地址: | 215123 江苏省苏州市苏*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开神经网络参数矩阵的稀疏化方法和装置,其中,一种神经网络参数矩阵的稀疏化方法,包括:在对神经网络参数进行每一轮迭代训练之前,选出所述神经网络参数矩阵中最冗余的多个参数;将所述最冗余的多个参数置0;对置0后的参数进行标记并在之后的迭代训练过程中不再更新标记后的参数。本申请的方法和装置提供的方案通过增量式稀疏化算法,网络最终的稀疏化能够达到80%以上,大大的降低了参数所需的存储空间,提升计算速度,并且因为是增量式的稀疏化算法,每一轮虽然置0了部分权值,但是非0部分还是会参与训练,所以识别的性能不会降低。 | ||
搜索关键词: | 稀疏 神经网络参数 矩阵 方法和装置 迭代训练 增量式 冗余 算法 存储空间 对置 更新 申请 网络 | ||
【主权项】:
1.一种神经网络参数矩阵的稀疏化方法,包括:/n在对神经网络参数进行每一轮迭代训练之前,选出所述神经网络参数矩阵中最冗余的多个参数;/n将所述最冗余的多个参数置0;/n对置0后的参数进行标记并在之后的迭代训练过程中不再更新标记后的参数。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州思必驰信息科技有限公司,未经苏州思必驰信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910814977.X/,转载请声明来源钻瓜专利网。