[发明专利]一种稀疏神经网络的数据处理方法、处理器和系统在审
申请号: | 202110783460.6 | 申请日: | 2021-07-12 |
公开(公告)号: | CN113486200A | 公开(公告)日: | 2021-10-08 |
发明(设计)人: | 刘焕双;李秋平;雍珊珊;张兴;王新安;高金潇;李肖飞;郭朋非 | 申请(专利权)人: | 北京大学深圳研究生院 |
主分类号: | G06F16/532 | 分类号: | G06F16/532;G06N3/02 |
代理公司: | 深圳市华优知识产权代理事务所(普通合伙) 44319 | 代理人: | 余薇 |
地址: | 518000 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 稀疏 神经网络 数据处理 方法 处理器 系统 | ||
1.一种稀疏神经网络的数据处理方法,其特征在于,包括:
获取由所述稀疏神经网络的稀疏数据转换得到的稠密数据;
将所述稠密数据中的权重数据和输入特征图进行通道匹配,将通道相同的权重数据和输入特征图匹配成对,得到和权重数据匹配的输入特征图的索引值;
对匹配的权重-输入特征图数据对进行PE阵列计算。
2.如权利要求1所述的方法,其特征在于,所述对匹配的权重-输入特征图数据对进行PE阵列计算包括:
将所述匹配的权重数据和输入特征图的地址发送到地址计算单元用于计算部分和Psum的地址;
计算时由地址计算单元控制权重-输入特征图数据对进入对应的近似乘法器中进行近似乘法运算,运算结果进入加法器由地址计算单元控制其是否与Buffer中数据进行相加,将部分和Psum的中间结果暂存在Buffer中,当Psum计算完成后,由Buffer存入Psum RF中地址计算单元指定的Psum Addr。
3.如权利要求1或2所述的方法,其特征在于,所述将所述稠密数据中的权重数据和输入特征图进行通道匹配包括使用优先编码器将权重W向量和输入特征图IF向量的通道channel匹配矩阵转化为(有效-位置)矢量。
4.如权利要求2所述的方法,其特征在于,所述近似乘法运算包括:检测输入特征图和权值数据最高非零位的位数,截取其后几位数据进行乘法运算,再由移位器根据检测到的位数将乘法运算结果移位到正常位数。
5.如权利要求2或4所述的方法,其特征在于,PE阵列计算完成后,将计算结果沿对角线进行累加,将累加结果存储到Psum SRAM中。
6.一种处理器,其特征在于,包括:
获取单元,用于获取由稀疏神经网络的稀疏数据转换得到的稠密数据;
匹配单元,用于将所述稠密数据中的权重数据和输入特征图进行通道匹配,将通道相同的权重数据和输入特征图匹配成对,得到和权重数据匹配的输入特征图的索引值;
处理单元,用于对匹配的权重-输入特征图数据对进行PE阵列计算。
7.如权利要求6所述的处理器,其特征在于,所述处理器还包括发送单元,用于将所述匹配的权重数据和输入特征图的地址发送到地址计算单元用于计算部分和Psum的地址;
所述处理单元,具体用于计算时由地址计算单元控制权重-输入特征图数据对进入对应的近似乘法器中进行近似乘法运算,运算结果进入加法器由地址计算单元控制其是否与缓存器Buffer中数据进行相加,将部分和Psum的中间结果暂存在Buffer中,当Psum计算完成后,由Buffer存入Psum RF中地址计算单元指定的Psum Addr。
8.如权利要求6或7所述的处理器,其特征在于,所述匹配单元包括优先编码器,用于将权重W向量和输入特征图IF向量的通道channel匹配矩阵转化为(有效-位置)矢量。
9.如权利要求7所述的处理器,其特征在于,所述近似乘法运算包括:检测输入特征图和权值数据最高非零位的位数,截取其后几位数据进行乘法运算,再由移位器根据检测到的位数将乘法运算结果移位到正常位数。
10.一种稀疏神经网络的数据处理系统,其特征在于,包括:
主处理器,用于将所述稀疏神经网络的稀疏数据转换得到的稠密数据;以及如权利要求6-9任一所述的协处理器。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京大学深圳研究生院,未经北京大学深圳研究生院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110783460.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:高效研磨体剥离制备石墨烯的方法
- 下一篇:一种抗结食用盐及其制备方法