[发明专利]用于神经网络计算的参差存储结构及神经网络计算方法有效
申请号: | 202110781610.X | 申请日: | 2021-07-08 |
公开(公告)号: | CN113487020B | 公开(公告)日: | 2023-10-17 |
发明(设计)人: | 姚春赫;刘力源;杨旭;吴南健 | 申请(专利权)人: | 中国科学院半导体研究所 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06N3/0464;G06N3/08 |
代理公司: | 中科专利商标代理有限责任公司 11021 | 代理人: | 任岩 |
地址: | 100083 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 神经网络 计算 参差 存储 结构 计算方法 | ||
1.一种用于神经网络计算的参差存储结构,其特征在于,包括:
直接存储器访问器,用于从外部获取需要的权重数据;
存储阵列,包括并行布置的多个存储器,所述存储器用于存储所述权重数据;
广播网络,包括多个选择器,所述选择器用于将所述多个存储器分配给不同的计算簇,以实现不同大小特征图;
控制器,连接所述广播网络,用于控制所述广播网络中的数据流以及各个选择器的开关;
其中,所述存储阵列包含的存储器个数与所述计算簇的数量相等,所述存储器的存储容量根据所述存储器在广播网络中的重要性进行排列。
2.根据权利要求1所述的用于神经网络计算的参差存储结构,其特征在于,所述存储器由不同大小的存储块组成。
3.根据权利要求2所述的用于神经网络计算的参差存储结构,其特征在于,所述存储块包括SRAM、寄存器或DRAM。
4.根据权利要求1所述的用于神经网络计算的参差存储结构,其特征在于,所述选择器包括多路选择器或物理开关。
5.根据权利要求2所述的用于神经网络计算的参差存储结构,其特征在于,所述存储器的存储容量根据所述存储器在广播网络中的重要性进行排列,包括:
设定所述存储阵列包含的存储器个数为N,N=2n且n为正整数,则每个存储器都包含一个最底层的存储块;
编号为2k且k=1,2,…,N/2的存储器堆叠高一层级的存储块,编号为4k且k=1,2,…,[N/4]的存储器堆叠更高层级的存储块;
以此类推,直至所述存储阵列中的每个存储器中的存储块排列完成。
6.根据权利要求1所述的用于神经网络计算的参差存储结构,其特征在于,所述直接存储器访问器从片外或片上其他存储装置获取需要的权重数据。
7.一种应用权利要求1所述用于神经网络计算的参差存储结构的神经网络计算方法,其特征在于,包括:
步骤S1,通过直接存储器访问器从外部搬运权重数据到存储阵列中的各个存储器;
步骤S2,由控制器控制广播网络中各个选择器的开关,由存储器将权重数据输出至计算簇,以进行人工神经网络的计算;
步骤S3,对所述计算簇更换不同输入通道且需要用到相同权重值的特征图;
步骤S4,循环步骤S2至步骤S3,直至整层人工神经网络计算完成。
8.根据权利要求7所述的神经网络计算方法,其特征在于,所述方法还包括:
步骤S5,当计算簇的输入特征图尺寸发生变化时,通过控制器重新修改广播网络中各个选择器的开关,循环步骤S2至步骤S4,直至整个人工神经网络计算完成。
9.根据权利要求7所述的神经网络计算方法,其特征在于,所述存储器存储4种尺寸的输入特征图,包括64×64、32×32、16×16和8×8;
所述存储器还存储全连接层的权重数据。
10.根据权利要求9所述的神经网络计算方法,其特征在于,所述方法还包括:
预先设置所述计算簇和存储器的数量均为8个,通过控制器控制所述选择器的数据流动方向包括上侧选择或右侧选择,设置选择器1~7分别与所述存储器1~7和计算簇1~7的编号一一对应;
当控制器配置广播网络为64×64时,通过控制器将选择器1~7全部配置为右侧选择,则所有计算簇1~8的权重数据输入均为存储器8层1存储块中的权重数据;
当控制器配置广播网络为32×32时,通过控制器将选择器4配置为上侧选择且其余选择器配置为右侧选择,则计算簇1~4的权重数据输入均为存储器4层2存储块中的权重数据,计算簇5~8的权重数据输入均为存储器8层2存储块中的权重数据;
当控制器配置广播网络为16×16时,通过控制器将选择器2、4和6配置为上侧选择且其余选择器配置为右侧选择,则计算簇1~2的权重数据输入均为存储器2层3存储块中的权重数据,计算簇3~4的权重数据输入均为存储器4层3存储块中的权重数据,则计算簇5~6的权重数据输入均为存储器6层3存储块中的权重数据,计算簇7~8的权重数据输入均为存储器8层3存储块中的权重数据;
当控制器配置广播网络为8×8或全连接层时,通过控制器将所有选择器配置为上侧选择,则每个计算簇的权重数据输入均为各自存储器层4存储块中的权重数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院半导体研究所,未经中国科学院半导体研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110781610.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:微透镜阵列耦合反射层结构制备方法
- 下一篇:一种大田种植用二氧化碳传感器