[发明专利]减少人工神经网络中卷积运算期间数据移动的系统和方法

权利要求书

1.一种计算机实现的方法，包括：

在支持人工神经网络(ANN)的硬件加速器处接收激活数据集，所述激活数据集将经由所述ANN的滤波器内核进行卷积运算；

在所述硬件加速器处接收参数，所述参数指示当在所述卷积运算期间滑过特定位置时，所述滤波器内核超过所述激活数据集的至少一个边界；

至少部分地基于所述参数，确定所述硬件加速器将结合所述滤波器内核的特定位置在所述激活数据集的边界处生成填充数据；和

当所述滤波器内核滑过所述特定位置时，在所述硬件加速器处通过处理所述激活数据集的一部分和所述填充数据来执行所述卷积运算。

2.根据权利要求1所述的计算机实现的方法，还包括在所述硬件加速器处接收指示所述特定位置的起始地址的附加参数；并且

其中，执行所述卷积运算包括至少部分地基于所述附加参数，在所述特定位置处将所述滤波器内核应用于所述激活数据集的所述一部分和所述填充数据。

3.根据权利要求2所述的计算机实现的方法，其中，在所述硬件加速器处接收的所述激活数据集没有填充数据。

4.根据权利要求3所述的计算机实现的方法，还包括由所述硬件加速器结合所述滤波器内核的特定位置在所述激活数据集的边界处生成填充数据。

5.根据权利要求3所述的计算机实现的方法，还包括将所述激活数据集存储在所述硬件加速器的本地存储器设备中，用于结合所述卷积运算进行处理；并且

其中，执行所述卷积运算包括将所述滤波器内核移动到所述硬件加速器的本地存储器设备内的特定位置的起始地址，以便于处理所述激活数据集的所述一部分和所述填充数据。

6.根据权利要求5所述的计算机实现的方法，其中，由所述硬件加速器生成所述填充数据包括消除将所述填充数据从外部数据储存器传输到所述硬件加速器的本地存储器设备的需要。

7.根据权利要求1所述的计算机实现的方法，还包括：

在所述硬件加速器处接收附加参数，所述附加参数指示当在所述卷积运算期间滑过附加位置时，所述滤波器内核不超过所述激活数据集的任何边界；和

至少部分地基于所述附加参数，确定所述硬件加速器将抑制结合所述滤波器内核的附加位置生成附加填充数据；并且

其中，执行所述卷积运算包括当所述滤波器内核滑过所述附加位置时，处理所述激活数据集的附加部分，而没有任何填充数据。

8.根据权利要求7所述的计算机实现的方法，还包括在所述硬件加速器处接收指示所述附加位置的起始地址的另一个参数；并且

其中，执行所述卷积运算包括至少部分地基于所述另一个参数，在所述附加位置处将所述滤波器内核应用于所述激活数据集的所述附加部分。

9.根据权利要求1所述的计算机实现的方法，其中，所述参数包括以下中的至少一项：

计数，其指示当在所述卷积运算期间滑过所述特定位置时，所述滤波器内核超过的所述激活数据集的边界数量；

一个或更多个边指示符，其标识当在所述卷积运算期间滑过所述特定位置时，所述滤波器内核超过所述激活数据集的哪些边界；或者

深度指示符，其标识将由所述硬件加速器结合所述滤波器内核的特定位置在所述激活数据集的边界处生成的填充数据的深度。

10.根据权利要求1所述的计算机实现的方法，其中，执行所述卷积运算包括通过在所述激活数据集上滑动所述滤波器内核来生成输出数据集。

11.根据权利要求10所述的计算机实现的方法，其中，所述卷积运算包括相同卷积运算，其中：

所述激活数据集包含特定数量的维度；和

所述输出数据集也包含所述特定数量的维度。