[发明专利]预处理Winograd卷积的方法、计算机可读存储介质及装置

说明书

本发明涉及预处理Winograd卷积的神经元数据与权值数据的方法、计算机可读存储介质及组合处理装置，其中方法包括：设定数据单元的大小为向量化方向与数据位数的乘积；以及以数据单元为单位对齐存储神经元数据与权值数据。本发明具有保证网络精度、性能加速、面积缩减以及功耗降低的技术效果。

技术领域

本发明一般地涉及神经网络领域。更具体地，本发明涉及预处理Winograd卷积的神经元数据与权值数据的方法、计算机可读存储介质及组合处理装置。

背景技术

随着信息化时代的高速发展，人工智能与机器学习领域的研究炙手可热，相关产业蓬勃发展。卷积神经网络在计算机视觉、自动驾驶、机器翻译、语音识别、智能家居等各方面都有着广泛的作用。

卷积神经网络的参数量大，运算量大，使得卷积神经网络模型在便携移动终端有限面积和算力下被严重的限制其执行性能，同时非专用性设计的处理器在进行卷积运算时也会造成功耗的巨大开销。

Winograd卷积是一种基于多项式插值算法的卷积加速实现方式。它通过对卷积操作的两个输入：神经元及权值进行一定规模切分后，分别做线性变换，也就是Winograd正变换，再将变换后的神经元和权值进行对位乘法，把对位乘法结果再次进行线性变换，即Winograd逆变换，最后得到与原卷积操作等价的卷积结果。

由于在Winograd卷积操作的过程中，神经元和权值的正逆变换矩阵都由简单的固定数值构成，故而可以仅利用加法来实现Winograd神经元和权值的正逆变换过程。而Winograd算法中所需的乘法操作仅出现在对位乘过程中，此过程的乘法复杂度较原始卷积算法有相当程度缩减。由于硬件实现乘法运算的开销(时序、功耗、面积)比实现同位宽的加法要高很多，因此以Winograd卷积替代原始卷积操作能够带来硬件能效比和运算时间上的明显收益。

然而，目前没有一种硬件针对Winograd卷积加速算法来设计，使得现有人工智能芯片无法完全展现Winograd卷积运算的优势。因此，一种能够高效预处理Winograd卷积算法的方案是迫切需要的。

发明内容

为了至少部分地解决背景技术中提到的技术问题，本发明的方案提供了一种涉及预处理Winograd卷积的神经元数据与权值数据的方法、计算机可读存储介质及组合处理装置。

在一个方面中，本发明揭露一种预处理Winograd卷积的神经元数据与权值数据的方法，包括：设定数据单元的大小为向量化方向与数据位数的乘积；以及以所述数据单元为单位对齐存储所述神经元数据。

在另一个方面，本发明揭露一种计算机可读存储介质，其上存储有预处理Winograd卷积的神经元数据与权值数据的计算机程序代码，当所述计算机程序代码由处理装置运行时，执行前述的方法。

在另一个方面，本发明揭露一种预处理Winograd卷积的神经元数据与权值数据的组合处理装置，包括处理装置及片外内存。处理装置用以设定数据单元的大小为向量化方向与数据位数的乘积，片外内存用以依数据单元为单位对齐存储神经元数据。

本发明提出的预处理方案能够匹配Winograd卷积加速算法，具有保证网络精度、性能加速、面积缩减以及功耗降低的技术效果。

附图说明

通过参考附图阅读下文的详细描述，本发明示例性实施方式的上述以及其他目的、特征和优点将变得易于理解。在附图中，以示例性而非限制性的方式示出了本发明的若干实施方式，并且相同或对应的标号表示相同或对应的部分其中：

图1是示出卷积核与输入神经元图像进行卷积运算的示意图；

图2是示出F(2×2,3×3)的原始卷积转换成Winograd卷积的示意图；

图3是示出对位乘运算的可视化示意图；

图4是示出正变换数据与权值进行同质操作的示意图；