[发明专利]基于乒乓架构的稀疏脉冲神经网络加速器在审
申请号: | 202310410779.3 | 申请日: | 2023-04-17 |
公开(公告)号: | CN116663626A | 公开(公告)日: | 2023-08-29 |
发明(设计)人: | 王源;王梓霖;钟毅;崔小欣 | 申请(专利权)人: | 北京大学 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06N3/06;G06N3/049 |
代理公司: | 北京路浩知识产权代理有限公司 11002 | 代理人: | 贺爱琳 |
地址: | 100871*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 乒乓 架构 稀疏 脉冲 神经网络 加速器 | ||
1.一种基于乒乓架构的稀疏脉冲神经网络加速器,其特征在于,包括脉冲输入接口、权值和神经元参数输入接口、稀疏脉冲检测模块、压缩权重计算模块、泄漏积分发放模块;其中,
所述脉冲输入接口,用于接收脉冲输入信号,并将所述脉冲输入信号输入至稀疏脉冲检测模块;
所述权值和神经元参数输入接口,用于接收压缩权重值,并将所述压缩权重值输入至所述压缩权重计算模块;
所述稀疏脉冲检测模块,用于从所述脉冲输入信号中提取有效脉冲索引;所述有效脉冲索引用于表征所述脉冲输入信号中非零值的位置;
所述压缩权重计算模块,用于根据所述有效脉冲索引,对所述压缩权重值进行解压得到有效权值矩阵;计算所述有效权值矩阵与所述脉冲输入信号的加权和,得到每一神经元上的膜电位增量;利用所述每一神经元上的膜电位增量更新与所述每一神经元对应的膜电位累积量;
所述泄漏积分发放模块,用于判断更新后的膜电位累积量与预设阈值的大小关系,根据所述大小关系确定与所述每一神经元对应的输出脉冲结果。
2.根据权利要求1所述的基于乒乓架构的稀疏脉冲神经网络加速器,其特征在于,还包括脉冲缓存模块组;所述脉冲缓存模块组包括第一脉冲缓存模块和第二脉冲缓存模块;
所述脉冲缓存模块组,用于以乒乓切换的方式控制每一缓存周期内第一脉冲缓存模块和第二脉冲缓存模块的读写状态,以使每一缓存周期内其中一个脉冲缓存模块处于读状态,另一个脉冲缓存模块处于写状态。
3.根据权利要求2所述的基于乒乓架构的稀疏脉冲神经网络加速器,其特征在于,还包括权重缓存模块组;所述权重缓存模块组包括第一权重缓存模块和第二权重缓存模块;
所述权重缓存模块组,用于以乒乓切换的方式控制每一缓存周期内第一权重缓存模块和第二权重缓存模块的读写状态,以使每一缓存周期内其中一个权重缓存模块处于读状态,另一个权重缓存模块处于写状态。
4.根据权利要求3所述的基于乒乓架构的稀疏脉冲神经网络加速器,其特征在于,还包括神经元参数缓存模块组;所述神经元参数缓存模块组包括第一神经元参数缓存模块和第二神经元参数缓存模块;
所述神经元参数缓存模块组,用于以乒乓切换的方式控制每一缓存周期内第一神经元参数缓存模块和第二神经元参数缓存模块的读写状态,以使每一缓存周期内其中一个神经元参数缓存模块处于读状态,另一个神经元参数缓存模块处于写状态。
5.根据权利要求1所述的基于乒乓架构的稀疏脉冲神经网络加速器,其特征在于,
所述稀疏脉冲检测模块,进一步用于将所述脉冲输入信号对应的脉冲输入序列分为多组子序列;
依次将每一组子序列与其自身进行按位或操作,得到按位或操作结果;若所述按位或操作结果为全0,则结束当前组子序列的运算;
若所述按位或操作结果不为全0,则将所述按位或操作结果作为当前待检测序列,对所述当前待检测序列进行多轮检测,每一轮检测中,将当前待检测序列减1后得到差值;将所述差值与当前待检测序列进行按位与操作后得到按位与操作结果;将所述按位与操作结果与当前待检测序列进行按位异或操作后得到有效脉冲独热码;将所述有效脉冲独热码进行二进制转换后得到有效脉冲索引;判断所述按位与操作结果是否为全0,若是,则结束当前待检测序列的检测,并返回所述依次将每一组子序列与其自身进行按位或操作,得到按位或操作结果的步骤;若否,则将所述按位与操作结果作为当前待检测序列,返回所述将当前检测序列减1后得到差值的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京大学,未经北京大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310410779.3/1.html,转载请声明来源钻瓜专利网。