[发明专利]用于加速神经网络处理器的方法和系统及神经网络处理器

权利要求书

1.一种用于加速神经网络处理器的方法，所述方法包括：

步骤1)从待处理的神经网络模型的原始数据和权重中提取非零元素及其相对位置，并分别加载至神经网络处理器的数据存储单元和权重存储单元；

步骤2)对来自所述权重存储单元的权重和来自数据存储单元的数据进行匹配，仅将相对位置相同的权重和数据加载至神经网络处理器的计算单元参与运算。

2.根据权利要求1所述的方法，还包括从来自神经网络处理器的计算单元的输出数据中提取非零元素及其相对位置，并将其保存到数据存储单元。

3.一种神经网络处理器，包括控制单元、计算单元、权重存储单元、数据存储单元，数据匹配单元，其中控制单元用于控制相关数据的调度、运算与存储；权重存储单元存储已经训练好的神经网络权重中非零元素及其相对位置；数据存储单元存储神经网络原始数据及中间结果数据中非零元素及其相对位置；数据匹配单元用于对来自所述权重存储单元的权重和来自数据存储单元的数据进行匹配，仅将相对位置相同的权重和数据加载至计算单元中。

4.根据权利要求3所述的神经网络处理器，还包括数据压缩单元，用于从来自计算单元的输出数据中提取非零元素及其相对位置，并将其保存到数据存储单元。

5.根据权利要求3所述的神经网络处理器，其中数据匹配单元包含在各个计算单元中。

6.根据权利要求5所述的神经网络处理器，其中各个计算单元并行工作，控制单元调度不同的权重值接入不同的计算单元，并控制来自数据存储单元的数据由各个计算单元共享，每个计算单元中相应的数据匹配单元对于输入的数据和权重进行匹配以判断是否对其进行运算。

7.根据权利要求3-6所述的神经网络处理器，其中数据匹配单元包括一个或多个比较器。

8.根据权利要求3-56中任一项所述的神经网络处理器，其中数据压缩单元包括输入寄存器、输出寄存器和比较器，输入寄存器接收来自计算单元的数据，通过比较器判断该数据是否为零值，如果不为零则将该数据及对应的寄存器编号载入至输出寄存器中。

9.一种用于加速神经网络处理器的系统，所述系统包括：

数据预处理装置，用于从待处理的神经网络模型的原始数据和权重中提取非零元素及其相对位置，并分别加载至神经网络处理器的数据存储单元和权重存储单元；

数据匹配装置，对来自所述权重存储单元的权重和来自数据存储单元的数据进行匹配，仅将相对位置相同的权重和数据加载至神经网络处理器的计算单元参与运算。

10.根据权利要求9所述的系统，还包括：

数据压缩装置，对于来自神经网络处理器的计算单元的输出数据中提取非零元素及其相对位置，并将其保存到神经网络处理器的数据存储单元中。