[发明专利]基于乒乓架构的稀疏脉冲神经网络加速器

说明书

本发明提供一种基于乒乓架构的稀疏脉冲神经网络加速器，通过传输压缩权重值至压缩权重计算模块，使用稀疏脉冲检测模块从脉冲输入信号中提取有效脉冲索引，避免了后续每一位脉冲信号都参与运算，减少了计算量，压缩权重计算模块根据有效脉冲索引将上述压缩权重值中的非零值累加至神经元的膜电位上，最终决定是否发放脉冲或不发放脉冲。与传统的突触交叉阵列中所有突触都被激活并参与运算的技术方案相比，本发明中仅对有效脉冲索引对应的突触权重进行激活，其他突触都不参与运算，从而减少了计算量，降低了整个芯片的运行功耗，提高了脉冲神经网络的运行速度、能效和面积效率。

技术领域

本发明涉及人工智能技术领域，尤其涉及一种基于乒乓架构的稀疏脉冲神经网络加速器。

背景技术

脉冲神经网络(Spiking Nueral Network，SNN)由于其具有的低功耗、高并发的特性，能够带来机器算力的提升，是一种极具潜力的计算模式，被认为是人工智能研究的未来。

由于脉冲神经网络中神经元的信号传导机制与传统的冯诺依曼计算机体系架构并不吻合，因此急需为脉冲神经网络设计合适的硬件加速器来运行脉冲神经网络。目前的神经形态加速器往往采用结构规则且大小固定的突触交叉阵列直接存储SNN模型的突触连接矩阵，而无论突触稀疏性如何，所有的突触都会参与运算，增加了计算量，这导致SNN模型的空间稀疏性无法在这种神经形态加速器上体现。另一种加速器设计方案是采用位图形式缓存输入脉冲，这会导致硬件需要判断输入脉冲向量中每一位的脉冲有效性，增加了计算时间，其结果是无法利用脉冲信号的时间稀疏性来提高硬件的运算速度。

可见，目前的神经网络加速器还不能充分发挥SNN模型的潜在性能优势，导致功耗不够低，运算速度不够快，对于SNN模型的运行能效不够高。

发明内容

本发明提供一种基于乒乓架构的稀疏脉冲神经网络加速器，用以解决现有技术中脉冲神经网络加速器中要么所有突触都参与运算要么输入的脉冲信号中的每一个符号都要参与运算从而导致芯片功耗大、计算量大的缺陷，实现脉冲神经网络的低功耗、低延迟运行。

本发明提供一种基于乒乓架构的稀疏脉冲神经网络加速器，包括脉冲输入接口、权值和神经元参数输入接口、稀疏脉冲检测模块、压缩权重计算模块、泄漏积分发放模块；其中，

所述脉冲输入接口，用于接收脉冲输入信号，并将所述脉冲输入信号输入至稀疏脉冲检测模块；

所述权值和神经元参数输入接口，用于接收压缩权重值，并将所述压缩权重值输入至所述压缩权重计算模块；

所述稀疏脉冲检测模块，用于从所述脉冲输入信号中提取有效脉冲索引；所述有效脉冲索引用于表征所述脉冲输入信号中非零值的位置；

所述压缩权重计算模块，用于根据所述有效脉冲索引，对所述压缩权重值进行解压得到有效权值矩阵；计算所述有效权值矩阵与所述脉冲输入信号的加权和，得到每一神经元上的膜电位增量；利用所述每一神经元上的膜电位增量更新与所述每一神经元对应的膜电位累积量；

所述泄漏积分发放模块，用于判断更新后的膜电位累积量与预设阈值的大小关系，根据所述大小关系确定与所述每一神经元对应的输出脉冲结果。

根据本发明提供的一种基于乒乓架构的稀疏脉冲神经网络加速器，还包括脉冲缓存模块组；所述脉冲缓存模块组包括第一脉冲缓存模块和第二脉冲缓存模块；

所述脉冲缓存模块组，用于以乒乓切换的方式控制每一缓存周期内第一脉冲缓存模块和第二脉冲缓存模块的读写状态，以使每一缓存周期内其中一个脉冲缓存模块处于读状态，另一个脉冲缓存模块处于写状态。

根据本发明提供的一种基于乒乓架构的稀疏脉冲神经网络加速器，还包括权重缓存模块组；所述权重缓存模块组包括第一权重缓存模块和第二权重缓存模块；