[发明专利]神经网络加速方法、神经网络加速器、芯片及电子设备

说明书

本申请涉及神经网络加速方法、加速器、芯片及电子设备，所述方法包括：响应于数据接收指令，接收二进制向量形式的待处理数据；响应于神经网络运算指令，对所述的二进制向量基于神经网络算法进行运算处理；所述的对所述的二进制向量基于神经网络算法进行运算处理，包括，对所述的二进制向量进行点积运算，包括：对m元素n bit的二进制向量中的所有元素进行按位提取，获得n个m元素的单bit向量；将所述的n个m元素的单bit向量分别与m元素x bit向量相乘；将所述向量相乘的结果按位进行加法运算，然后进行移位操作；最后将所述移位操作的结果送入二进制累加器进行累加获得处理结果。本申请可以提高神经网络的运算效率并降低功耗。

技术领域

本申请涉及人工智能技术领域，尤其是涉及一种神经网络加速方法、神经网络加速器、芯片及电子设备。

背景技术

近年来，随着大数据技术的不断发展，尤其是人工智能领域需要大数据的支撑，神经网络算法在越来越多的领域得到了广泛的应用，比如自动驾驶、AR、VR、模式识别、图像分析、智能机器人等等。

所以，诸多领域需要用到神经网络加速器（NPU，Neural-network ProcessingUnit），相较于传统的中央处理器CPU以及图形处理器GPU，NPU具有更高数量级的并行计算单元。

面对所述的大数据处理场景，为了更快的获得处理结果，并节约成本，那么对神经网络算法的运算速度和功耗就提出了更高的要求。而现有的神经网络处理装置实现神经网络运算中的点积运算时，对于多元素多bit向量的运算效率非常低，同时功耗较高，从而导致利用所述神经网络算法进行数据处理的效率较低，同时功耗较高。因此有待进一步改进。

发明内容

为了提高神经网络处理装置的运算效率，同时降低其功耗，本申请提供一种神经网络加速方法、神经网络加速器、芯片及电子设备。

第一方面，本申请提供的一种神经网络加速方法采用如下的技术方案：

一种神经网络加速方法，包括：

响应于数据接收指令，接收二进制向量形式的待处理数据，所述二进制向量为m元素n bit的向量，所述的m、n为任意整数；响应于神经网络运算指令，对所述的二进制向量基于神经网络算法进行运算处理；

或响应于数据接收指令，接收二进制向量形式的待处理数据，并将所述待处理数据存入存储器中，所述二进制向量为m元素n bit的向量，所述的m、n为任意整数；调取所述存储器中的二进制向量，对所述的二进制向量基于神经网络算法进行运算处理；

其中，所述的对所述的二进制向量基于神经网络算法进行运算处理，包括，对所述的二进制向量进行点积运算，具体包括：

对m元素n bit的二进制向量中的所有元素进行按位提取，获得n个m元素的单bit向量；

将所述的n个m元素的单bit向量分别与m元素x bit向量相乘；

将所述向量相乘的结果按位进行加法运算，然后进行移位操作（即乘以权重）；

将所述移位操作的结果送入二进制累加器进行累加获得处理结果。

通过采用上述方法步骤，尤其是对m元素n bit的二进制向量中的所有元素进行按位提取，获得n个m元素的单bit向量，然后再将所述的n个m元素的单bit向量分别与m元素xbit向量相乘，再将所述向量相乘的结果按位进行加法运算，然后进行移位操作，并送入二进制累加器进行累加，使得对于多元素多bit向量的整个二进制点积处理的过程更加简单、高效，从而大大提升了对所述的二进制向量基于神经网络算法进行运算处理的运算效率，同时降低了系统功耗。

优选的，在步骤将所述向量相乘的结果按位进行加法运算和进行移位操作之间，还包括：

将所述加法运算结果用二进制表示；

对所述用二进制表示的结果进行按位提取。