[发明专利]向前融合神经网络的装置、板卡、方法及可读存储介质

权利要求书

1.一种向前融合神经网络的集成电路装置，包括：

处理装置，用以向所述神经网络的起点方向进行融合，以建立模板融合单元；以及

计算装置，用以根据所述模板融合单元执行神经网络计算。

2.根据权利要求1所述的集成电路装置，其中所述处理装置根据融合策略选择融合的起始层；

其中，所述处理装置自所述起始层向所述神经网络的起点方向进行融合。

3.根据权利要求2所述的集成电路装置，其中所述模板融合单元中的最前层为所述模板融合单元的输入层，所述起始层为所述模板融合单元的输出层，所述处理装置基于所述输入层及所述输出层进行金字塔融合。

4.根据权利要求2所述的集成电路装置，其中所述模板融合单元内的各层为连续。

5.根据权利要求4所述的集成电路装置，其中在向所述神经网络的起点方向进行融合时，所述处理装置判断新加入的层是否已被融合，如是，则停止融合。

6.根据权利要求4所述的集成电路装置，其中在向所述神经网络的起点方向进行融合时，所述处理装置判断新加入的层是否已被融合，如是，则所述处理装置向所述神经网络的终点方向进行融合。

7.根据权利要求4所述的集成电路装置，其中所述处理装置在向所述神经网络的起点方向进行融合后，接着向所述神经网络的终点方向进行融合，以进行跳跃式融合。

8.根据权利要求7所述的集成电路装置，其中所述连续各层的最前层为所述模板融合单元的输入层，向后跳跃的最后一层为所述模板融合单元的输出层。

9.根据权利要求3或7所述的集成电路装置，其中所述输出层为单分支输出。

10.根据权利要求7所述的集成电路装置，其中所述跳跃式融合为每融合n层跳跃一次；其中，n为自然数。

11.根据权利要求2所述的集成电路装置，其中所述起始层为最前未被融合的卷积或池化层。

12.根据权利要求1所述的集成电路装置，其中当所述神经网络为块结构时，所述处理装置以所述块结构为单位融合。

13.根据权利要求1所述的集成电路装置，其中所述神经网络包括多个主层，所述主层为矩阵乘、池化及卷积其中之一，所述模板融合单元包括至少2个主层。

14.根据权利要求13所述的集成电路装置，其中所述模板融合单元包括主层、主层及非主层依次相邻的连续结构。

15.根据权利要求14所述的集成电路装置，其中所述结构为单分支。

16.根据权利要求1所述的集成电路装置，其中所述模板融合单元包括标量计算层及向量计算层相邻的连续结构；

其中，所述标量计算层包括加法层、减法层及乘法层其中之一，所述向量计算层包括激活层、批标准化层及缩放层其中之一。

17.一种板卡，包括根据权利要求1至16任一项所述的集成电路装置。

18.一种向前融合神经网络的方法，包括：

向所述神经网络的起点方向进行融合，以建立模板融合单元；以及

根据所述模板融合单元执行神经网络计算。

19.根据权利要求18所述的方法，还包括：

根据融合策略选择融合的起始层；

其中，融合步骤自所述起始层向所述神经网络的起点方向进行融合。

20.一种计算机可读存储介质，其上存储有向前融合神经网络的计算机程序代码，当所述计算机程序代码由处理装置运行时，执行权利要求18至19任一项所述的方法。