[发明专利]一种针对位宽递增加法树的精度动态自适应累加模块

说明书

一种针对位宽递增加法树的精度动态自适应累加模块，包括：数据预分析子模块、计算精度动态配置子模块、位宽递增的树形累加子模块；位宽递增的树形累加子模块采用加法树结构，每一层包含多个多模式精度可配置加法单元。神经网络的输入特征向量输入到数据预分析子模块中，基于计算场景对计算精度的需求判断其小数近似的位宽；计算精度动态配置子模块对位宽递增的树形累加子模块中的多模式精度可配置加法单元进行配置，从而选取最优化的计算模式。保证神经网络的准确率不受近似加法器的近似计算的影响，满足了神经网络系统在移动端和便携式设备上部署的需求，并且低功耗、高准确率地完成任务。

技术领域

本发明属于计算、推算的技术领域，具体涉及一种针对位宽递增加法树的精度动态自适应累加模块。

背景技术

由于权重二值化网络系统中存在大量对操作数进行累加的计算，这会产生较大的功耗及误差，目前已经从算法、软件、硬件、电路和晶体管级进行了大量的研究。然而，对于诸如数字信号处理、视觉计算机和机器学习之类的新兴应用对权重二值化网络有着更高的计算要求，因此低能耗面临着新的挑战。

权重二值化网络对有限的或不重要的误差存在一定的容错性。错误产生偏差产生容错性的原因有很多，包括人类意义上的不完美感知、噪声输入信号、输入数据的冗余和缺乏通用的最佳答案。

现有技术中，通过近似计算来实现这种容错性，这将在很大程度上降低功耗和算术复杂度。目前已经在软件和硬件层面的近似计算领域进行了大量的研究，其中在软件层面，曾提出循环穿孔技术，即在计算过程中，跳过多次循环迭代，执行初始的计算子集，从而节省时间和降低功耗，但是此方法产生的输出误差较大。在硬件层面的近似计算研究主要针对算术单元，应用较多的是截断技术和简化单位逻辑复杂性，但事实证明这两种方法都存在一定的误差，并且产生的结果不可靠。

由于加法是计算过程中一个必不可少的算术运算，并且随着加法器的重复使用，误差会彼此抵消而不累加，因此在面向权重二值化神经网络研究时，研究其计算功耗降低的技术方案，提出一种针对位宽递增加法树的精度动态自适应累加模块具有重要的应用价值。

发明内容

本发明的目的是为了克服现有技术所存在的不足而提出了一种针对位宽递增加法树的精度动态自适应累加模块，基于传统的近似计算加法模块，增加了运算精度动态自适应的电路结构设计，可以根据场景的需求动态选中其中的部分电路结构；基于传统的累加器结构，采用树形累加结构进行计算，每层加法器由多模式可配置加法单元构成，加法单元总位宽根据层级不同进行设置，避免冗余计算；基于传统的累加器结构，还增加了计算精度动态配置子模块，可以根据场景和精度需求，对上述的树形累加子模块中的多模式可配置加法单元进行配置，实现不同场景下累加模块的高效运行。能够维持高的准确率，解决了现有卷积神经网络的各种应用系统难以在移动终端和便携式设备中实现的技术问题。

为了解决上述技术问题，本发明提出如下技术方案：

本发明提出一种针对位宽递增加法树的精度动态自适应累加模块，应用于权重二值化神经网络的计算加速过程中。精度动态自适应累加模块包括：数据预分析子模块、计算精度动态配置子模块、位宽递增的树形累加子模块；其中，位宽递增的树形累加子模块包含多个多模式精度可配置加法单元。

权重二值化卷积神经网络的输入特征向量输入到数据预分析子模块中，由数据预分析子模块基于计算场景对计算精度的需求对输入特征向量进行预分析，判断其小数近似的位宽；计算精度动态配置子模块，根据数据预分析子模块所确定的近似位宽，对位宽递增的树形累加子模块中的多模式精度可配置加法单元进行配置，从而选取最优化的计算模式。

数据预分析子模块，通过判断输入数据的小数位某位相加是否大于1来决定本层级近似位数的选择。即在2^-n位进行计数，若最后计数超过2ⁿ，则最后相加大于2^-n·2¹ⁿ＝1