[发明专利]用于实现稀疏卷积神经网络加速器的装置和方法

权利要求书

1.一种用于实现稀疏卷积神经网络加速器的装置，包括：

卷积与池化单元，用于根据卷积参数信息对输入数据进行第一迭代次数的卷积与池化操作，以最终得到稀疏神经网络的输入向量，其中，每个输入数据被分割为多个子块，由卷积与池化单元对多个子块并行进行卷积与池化操作；

全连接单元，用于根据全连接层权值矩阵位置信息对输入向量进行第二迭代次数的全连接计算，以最终得到稀疏卷积神经网络的计算结果,其中，每个输入向量被分割为多个子块，由全连接单元对多个子块并行进行全连接操作；

控制单元，用于确定并且向所述卷积与池化单元和所述全连接单元分别发送所述卷积参数信息和所述全连接层权值矩阵位置信息，并且对上述单元中的各个迭代层级的输入向量读取与状态机进行控制。

2.根据权利要求1所述的用于实现稀疏卷积神经网络加速器的装置，其中，所述卷积与池化单元进一步包括：

卷积单元，用于进行输入数据与卷积参数的乘法运算；

累加树单元，用于累加卷积单元的输出结果，以完成卷积运算；

非线性单元，用于对卷积运算结果进行非线性处理；

池化单元，用于对非线性处理后的运算结果进行池化操作，以得到下一迭代级的输入数据或最终得到稀疏神经网络的输入向量。

3.根据权利要求1所述的用于实现稀疏卷积神经网络加速器的装置，其中，所述全连接单元进一步包括：

输入向量缓存单元，用于缓存稀疏神经网络的输入向量；

指针信息缓存单元，用于根据全连接层权值矩阵位置信息，缓存压缩后的稀疏神经网络的指针信息；

权重信息缓存单元，用于根据压缩后的稀疏神经网络的指针信息，缓存压缩后的稀疏神经网络的权重信息；

算术逻辑单元，用于根据压缩后的稀疏神经网络的权重信息与输入向量进行乘累加计算；

输出缓存单元，用于缓存算术逻辑单元的中间计算结果以及最终计算结果；

激活函数单元，用于对输出缓存单元中的最终计算结果进行激活函数运算，以得到稀疏卷积神经网络的计算结果。

4.根据权利要求2所述的用于实现稀疏卷积神经网络加速器的装置，其中，所述累加树单元除了累加卷积单元的输出结果以外，还根据卷积参数信息而加上偏置。

5.根据权利要求3所述的用于实现稀疏卷积神经网络加速器的装置，其中，所述压缩后的稀疏神经网络的权重信息包括位置索引值和权重值，

所述算术逻辑单元被进一步配置为：

将权重值与输入向量的对应元素进行乘法运算，

根据位置索引值，读取所述输出缓存单元中相应位置的数据，与上述乘法运算的结果相加，

根据位置索引值，将相加结果写入到输出缓存单元中相应位置。

6.一种用于实现稀疏卷积神经网络加速器的方法，包括：

依据控制信息而读取卷积参数信息与输入数据与中间计算数据，并且读取全连接层权值矩阵位置信息；

根据卷积参数信息对输入数据进行第一迭代次数的卷积与池化操作，以最终得到稀疏神经网络的输入向量，其中，每个输入数据被分割为多个子块，对多个子块并行进行卷积与池化操作；

根据全连接层权值矩阵位置信息对输入向量进行第二迭代次数的全连接计算，以最终得到稀疏卷积神经网络的计算结果,其中，每个输入向量被分割为多个子块，并行进行全连接操作。

7.根据权利要求6所述的用于实现稀疏卷积神经网络加速器的方法，其中，所述的根据卷积参数信息对输入数据进行第一迭代次数的卷积与池化操作，以最终得到稀疏神经网络的输入向量的步骤进一步包括：

进行输入数据与卷积参数的乘法运算；

累加乘法运算的输出结果，以完成卷积运算；

对卷积运算结果进行非线性处理；

对非线性处理后的运算结果进行池化操作，以得到下一迭代级的输入数据或最终得到稀疏神经网络的输入向量。