[发明专利]执行神经网络模型的数据处理装置、方法及相关产品

权利要求书

1.一种用于执行神经网络模型的数据处理装置，包括：

存储电路，配置用于存储所述神经网络模型的卷积层的折叠滤波器，所述折叠滤波器为原始滤波器经过维度折叠而得到的，其中所述维度折叠包括将宽度维度和/或高度维度的数据重新排放至输入通道维度；以及

处理电路，配置用于：

对输入特征图进行所述维度折叠以得到折叠特征图；以及

利用所述折叠滤波器对所述折叠特征图执行卷积运算以得到输出特征图。

2.根据权利要求1所述的数据处理装置，其中所述原始滤波器的输入通道维度大小不超过第一阈值A1，所述折叠滤波器的输入通道维度大小等于第二阈值Aci，其中第一阈值A1小于第二阈值Aci。

3.根据权利要求2所述的数据处理装置，其中所述处理电路配置用于按如下方式执行所述维度折叠：

基于待折叠多维数据的输入通道维度大小Ci和所述第二阈值Aci确定总折叠倍数N_total；

将所述总折叠倍数N_total拆分成宽度维度折叠倍数Nw和高度维度折叠倍数Nh；

基于Nw、Nh以及待折叠多维数据的宽度维度大小和高度维度大小，确定折叠后多维数据的宽度维度大小和高度维度大小；以及

基于Nw、Nh以及卷积运算的原始卷积步长，确定所述卷积运算的折叠后卷积步长。

4.根据权利要求3所述的数据处理装置，其中所述处理电路进一步配置用于按如下确定总折叠倍数N_total：

N_total＝Aci/Cia，其中Cia是Ci对齐到最近的Aci/2ⁿ的值，n是自然数。

5.根据权利要求3-4任一所述的数据处理装置，其中所述处理电路进一步配置用于按以下任一规则或规则组合来拆分所述总折叠倍数N_total：

优先拆分到宽度维度；

平均拆分到宽度维度和高度维度；

拆分成使得由折叠倍数对齐导致的补齐量最少；或

拆分成使得宽度维度上的卷积步长能够被该宽度维度的折叠倍数整除。

6.根据权利要求3-5任一所述的数据处理装置，其中所述处理电路进一步配置用于按如下确定折叠后多维数据的宽度维度大小和高度维度大小：

k_w′＝k_wa/Nw (7)

k_h′＝k_ha/Nh (8)

其中，k_w′、k_h′分别为折叠后多维数据的宽度维度大小和高度维度大小，k_wa为待折叠多维数据的宽度维度大小k_w对齐到最近的宽度维度折叠倍数Nw的值，k_ha为待折叠多维数据的高度维度大小k_h对齐到最近的高度维度折叠倍数Nh的值。

7.根据权利要求3-6任一所述的数据处理装置，其中所述处理电路进一步配置用于按如下确定折叠后多维数据的卷积步长：

其中，S_x、S_y分别为卷积运算的原始宽度维度的卷积步长和高度维度的卷积步长，S_x′、S_y′分别为卷积运算的折叠后宽度维度的卷积步长和高度维度的卷积步长。

8.根据权利要求3-7任一所述的数据处理装置，其中所述第二阈值Aci是基于指令对齐要求而确定的，并且所述第一阈值A1≤Aci/2。

9.根据权利要求1-8任一所述的数据处理装置，其中所述处理电路进一步配置用于：

通过维度重组来实现在宽度维度上的所述维度折叠；和/或

通过维度转置来实现在高度维度上的所述维度折叠。