[发明专利]面向压缩卷积神经网络的并行卷积运算方法及装置

摘要

本发明提供了一种面向压缩卷积神经网络的并行卷积运算方法及装置，包括:根据输入控制信号卷积数据移位链长度选择、累加偏移量使能以及卷积计算使能决定所采用的操作方式。采用两条串行移位寄存器链，分别输入卷积数据和卷积参数与通道偏移量，在同一输入卷积数据流同时进行3×3和1×1卷积运算。本发明的方法在原有的基于串行移位寄存器链的3×3卷积运算的基础上仅仅增加了一个乘法器、一个累加器、一个参数寄存器和一个偏移量寄存器，实现方法简单，执行效率高，能够有效加快压缩神经网络算法中卷积运算。本发明中的装置可通过简单的硬件单元扩展和复制，可同时输出多个特征图，功耗低、功能单元利用率高，处理速率快的优点。

主权项

1.一种面向压缩卷积神经网络的并行卷积运算方法，其特征在于，包括如下步骤：构建面向压缩卷积神经网络的并行卷积运算装置，根据输入控制信号卷积数据移位链长度选择、累加偏移量使能以及卷积计算使能决定所采用的操作方式；其中，在没有使能1×1卷积计算功能和增加偏移量功能时，从卷积参数存储器读取3×3卷积核的9个参数，串行地写入到卷积参数移位寄存器链中，3×3卷积计算单元读取卷积数据移位链输出的3×3矩阵窗口数据和卷积参数移位寄存器的值进行3×3卷积运算，并将卷积结果输出到外部存储器当中；在没有使能1×1卷积计算功能、有使能增加偏移量功能时，从卷积参数存储器读取3×3卷积核的9个参数和3×3卷积计算偏移量，串行地写入到卷积参数移位寄存器链和3×3卷积计算偏移量寄存器中，3×3卷积计算单元读取卷积数据移位链输出的3×3矩阵窗口数据和卷积参数移位寄存器的值进行3×3卷积运算，并将卷积结果累加上偏移量，然后输出到外部存储器当中；在有使能1×1卷积计算功能、没有使能累加偏移量功能时，从卷积参数存储器中读取3×3卷积核的9个参数和1×1卷积核的1个参数，串行地写入到卷积参数移位寄存器链和1×1卷积参数寄存器中，3×3卷积计算单元读取卷积数据移位链输出的3×3矩阵窗口数据和卷积参数移位寄存器的值进行3×3卷积运算，并将卷积结果输出到外部存储器当中；1×1卷积计算单元读取卷积数据移位链输出的3×3矩阵窗口数据的中间数据和1×1卷积参数寄存器的值进行1×1卷积运算，并将卷积结果输出到外部存储器当中；在有使能1×1卷积计算功能和累加偏移量功能时，从卷积参数存储器中读取3×3卷积核的9个参数、1个3×3卷积计算偏移量、1个1×1卷积核的参数和1个1×1卷积计算偏移量，串行地写入到卷积参数移位寄存器链、3×3卷积计算偏移量寄存器、1×1卷积参数寄存器、以及1×1卷积计算偏移量寄存器中，3×3卷积计算单元读取卷积数据移位链输出的3×3矩阵窗口数据和卷积参数移位寄存器的值进行3×3卷积运算，并将卷积结果累加上偏移量，然后输出到外部存储器当中；1×1卷积计算单元读取卷积数据移位链输出的3×3矩阵窗口数据的中间数据和1×1卷积参数寄存器的值进行1×1卷积运算，并将卷积结果累加上偏移量，然后输出到外部存储器当中。