[发明专利]一种基于权重捏合的卷积神经网络计算方法和系统有效
申请号: | 201811214323.5 | 申请日: | 2018-10-18 |
公开(公告)号: | CN109543816B | 公开(公告)日: | 2022-12-06 |
发明(设计)人: | 李晓维;魏鑫;路航 | 申请(专利权)人: | 中国科学院计算技术研究所 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/063 |
代理公司: | 北京律诚同业知识产权代理有限公司 11006 | 代理人: | 祁建国;梁挥 |
地址: | 100080 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 权重 捏合 卷积 神经网络 计算方法 系统 | ||
1.一种基于权重捏合的卷积神经网络计算系统,其特征在于,包括:
权重捏合模块,用于获取多组待运算的激活值及其对应的原始权重,将该原始权重按计算顺序排列并按位对齐,得到权重矩阵,剔除该权重矩阵中的松弛位,得到具有空位的精简矩阵,并使得该精简矩阵的每一列中的基本位按该计算顺序递补该空位,得到中间矩阵,剔除该中间矩阵中的空行,并将该中间矩阵的空位置0,得到捏合矩阵,该捏合矩阵的每一行作为捏合权重;
拆分累加模块,用于根据激活值与原始权重中基本位的对应关系,得到该捏合权重中每一位对应激活值的位置信息,将该捏合权重送入拆分累加器,该拆分累加器将该捏合权重按位分割为多个权重段,根据该位置信息,将该权重段与对应的激活值进行求和处理,并将处理结果发送至加法树,通过对该处理结果执行移位相加,得到输出特征图;
其中,该原始权重为16位定点数,且该拆分累加器包括分离器,用于对该捏合权重进行按位分割。
2.如权利要求1所述的基于权重捏合的卷积神经网络计算系统,其特征在于,该拆分累加模块包括:利用哈夫曼编码保存该捏合权重中每一位对应激活值的该位置信息。
3.如权利要求1或2所述的基于权重捏合的卷积神经网络计算系统,其特征在于,该激活值为图像的像素值。
4.一种基于权重捏合的卷积神经网络计算方法,其特征在于,包括:
步骤1、获取多组待运算的激活值及其对应的原始权重,将该原始权重按计算顺序排列并按位对齐,得到权重矩阵,剔除该权重矩阵中的松弛位,得到具有空位的精简矩阵,并使得该精简矩阵的每一列中的基本位按该计算顺序递补该空位,得到中间矩阵,剔除该中间矩阵中的空行,并将该中间矩阵的空位置0,得到捏合矩阵,该捏合矩阵的每一行作为捏合权重;
步骤2、根据激活值与原始权重中基本位的对应关系,得到该捏合权重中每一位对应激活值的位置信息;
步骤3、将该捏合权重送入拆分累加器,该拆分累加器将该捏合权重按位分割为多个权重段,根据该位置信息,将该权重段与对应的激活值进行求和处理,并将处理结果发送至加法树,通过对该处理结果执行移位相加,得到输出特征图。
5.如权利要求4所述的基于权重捏合的卷积神经网络计算方法,其特征在于,步骤3中该拆分累加器包括分离器和段加法器,该分离器用于对该捏合权重进行按位分割,该段加法器用于对该权重段与对应的激活值进行求和处理。
6.如权利要求4或5所述的基于权重捏合的卷积神经网络计算方法,其特征在于,该步骤2包括:利用哈夫曼编码保存该捏合权重中每一位对应激活值的位置信息。
7.如权利要求4或5所述的基于权重捏合的卷积神经网络计算方法,其特征在于,该激活值为图像的像素值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院计算技术研究所,未经中国科学院计算技术研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811214323.5/1.html,转载请声明来源钻瓜专利网。