[发明专利]高效的稀疏并行的基于威诺格拉德的卷积方案

权利要求书

1.一种方法，包括：

由第一输入数据路径(IDP)单元将第一输入特征图变换到Winograd域，其中变换后的第一输入特征图包括第一多个输入矩阵，并且其中所述第一多个输入矩阵中的每个输入矩阵包括多个元素；

由所述第一IDP单元生成第一多个请求，所述第一多个请求中的每一个请求针对具有相应元素的变换后的权重内核中的第一多个非0权重；

由第一请求组装单元(RAU)接收所述第一多个请求；以及

由第一乘法累加阵列(MAA)，基于将所述第一多个非0权重应用于每个输入矩阵的相应元素，来为第一输出特征图并行生成第一多个输出矩阵。

2.根据权利要求1所述的方法，还包括：

由所述第一IDP单元内的位置确定器确定第一变换后的权重内核中的至少一个非0值权重的位置；和

其中由所述第一IDP单元生成所述第一多个请求还包括，由所述第一IDP单元向所述第一RAU提供所述第一多个请求，所述第一多个请求中的每一个请求针对具有相应元素的变换后的权重内核中的第一多个非0权重。

3.根据权利要求2所述的方法，还包括：

基于0值权重的指示，由第一IDP单元跳过与所述第一变换后的权重内核中的0值权重相对应的请求。

4.根据权利要求1所述的方法，还包括：

由第二IDP单元将第二输入特征图变换到Winograd域，其中变换后的第二输入特征图包括第二多个输入矩阵，并且其中所述第二多个输入矩阵中的每个输入矩阵包括多个元素；

由所述第二IDP单元生成第二多个请求，所述第二多个请求的每一个请求针对具有相应元素的变换后的权重内核中的第二多个非0权重；

由所述第一RAU，基于处理与相应矩阵的公共位置处的元素相关联的请求，将所述第一多个请求和所述第二多个请求重新排序；和

由第一MAA，基于重新排序的请求，为第一输出特征图并行生成多个输出矩阵。

5.根据权利要求4所述的方法，还包括：

由所述第一IDP单元向第二RAU提供第三多个请求，所述第三多个请求中的每一个请求针对具有相应元素的变换后的权重内核中的第三多个非0权重；

由所述第二IDP单元向所述第二RAU提供第四多个请求，所述第四多个请求中的每一个请求针对具有相应元素的变换后的权重内核中的第四多个非0权重；

由所述第二RAU，基于处理与在相应矩阵的公共位置处的元素相关联的请求，将所述第三多个请求和所述第四多个请求重新排序；和

由第二MAA，基于重新排序的请求，为第二输出特征图并行生成第二多个输出矩阵，其中与所述第一输出特征图并行地生成所述第二输出特征图。

6.根据权利要求4所述的方法，还包括：

由所述第一IDP单元内的第一位置确定器来确定所述第一变换后的权重内核中的至少一个非0值权重的位置；和

由所述第二IDP单元内的第二位置确定器来确定第二变换后的权重内核中的至少一个非0值权重的位置，

其中由所述第一IDP单元生成所述第一多个请求还包括，由所述第一IDP单元提供所述第一多个请求到所述第一RAU，所述第一多个请求中的每一个请求针对具有相应元素的变换后的权重内核中的所述第一多个非0权重，并且

其中由所述第二IDP单元生成所述第二多个请求还包括，由所述第二IDP单元提供所述第二多个请求到所述RAU，所述第二多个请求中的每一个请求针对具有相应元素的变换后的权重内核中的所述第二多个非0权重。

7.一种从输入特征图生成多个输出特征图的系统，所述系统包括：

第一输入数据路径(IDP)单元，用于将第一输入特征图变换到Winograd域，所述变换后的第一输入特征图包括第一多个输入矩阵，并且所述第一多个输入矩阵的每个输入矩阵包括多个元素，所述第一IDP单元还产生第一多个请求，所述第一多个请求中的每个请求针对具有相应元素的变换后的权重内核中的第一多个非0权重；

耦合到所述第一IDP单元的第一请求组装单元(RAU)，用于接收所述第一多个请求；和

耦合到所述第一RAU的第一乘法累加阵列(MAA)，用于基于将所述第一多个非0权重应用于每个输入矩阵的相应元素，为第一输出特征图并行生成多个输出矩阵。