[发明专利]计算装置、神经网络处理设备、芯片及处理数据的方法

权利要求书

1.一种计算装置，其特征在于，包括：

数据存储器，用于存储第一矩阵和第二矩阵的矩阵数据，所述第一矩阵为m×s的矩阵，所述第二矩阵为s×n的矩阵，所述矩阵数据包括s组数据，其中每组数据包括所述第一矩阵中的一个列向量以及所述第二矩阵中的与所述列向量索引相同的一个行向量，其中s、m、n均为大于或等于1的正整数；

计算模块，与所述数据存储器相连，用于执行所述第一矩阵和所述第二矩阵的乘法运算；

调度模块，与所述数据存储器相连，用于控制所述数据存储器向所述计算模块输入所述s组数据，所述计算模块基于所述s组数据中的每组数据中的列向量和行向量执行一次向量外积运算，以得到所述s组数据一一对应的s个m×n的中间结果矩阵，并将所述s个m×n的中间结果矩阵中的对应元素相加，得到所述第一矩阵和所述第二矩阵的乘积结果。

2.根据权利要求1所述的计算装置，其特征在于：

所述计算模块包括m×n个乘累加树，所述m×n个乘累加树中的乘累加器形成s组乘累加器，所述s组乘累加器中的每组乘累加器包括m×n个乘累加器，所述m×n个乘累加器中的任意两个乘累加器属于所述m×n个乘累加树中的不同的乘累加树；

所述计算模块基于所述s组乘累加器分别执行所述s次向量外积运算，得到所述s个m×n的中间结果矩阵，并利用所述m×n个乘累加树，将所述s个m×n的中间结果矩阵中的对应元素相加，得到所述第一矩阵和所述第二矩阵的乘积结果。

3.根据权利要求2所述的计算装置，其特征在于，所述第一矩阵属于第三矩阵的A个分块中的一个分块，所述第二矩阵属于第四矩阵的B个分块中的一个分块，所述A个分块的尺寸均小于或等于m×s，所述B个分块的尺寸均小于或等于s×n，所述计算模块还用于将所述A个分块和所述B个分块两两相乘，并基于所述A个分块和所述B个分块两两相乘的结果，得到所述第三矩阵和所述第四矩阵的乘积结果，其中，A、B均为大于1的正整数。

4.根据权利要求3所述的计算装置，其特征在于，所述计算装置用于执行卷积运算，所述第三矩阵中的元素为输入特征图中的数据，所述第四矩阵中的元素为卷积核中的权重数据，其中，所述第三矩阵为M×S的矩阵，所述第四矩阵为S×N的矩阵，M表示所述输入特征图的宽度，S表示所述输入特征图的通道数，N表示卷积核的数量，M、S、N均为大于或等于1的正整数。

5.一种神经网络处理设备，其特征在于，包括如权利要求1-4中任一项所述的计算装置。

6.一种芯片，其特征在于，包括如权利要求1-4中任一项所述的计算装置。

7.一种处理数据的方法，其特征在于，所述方法应用于计算装置，所述计算装置包括：

数据存储器，用于存储第一矩阵和第二矩阵的矩阵数据，所述第一矩阵为m×s的矩阵，所述第二矩阵为s×n的矩阵，所述矩阵数据包括s组数据，其中每组数据包括所述第一矩阵中的一个列向量以及所述第二矩阵中的与所述列向量索引相同的一个行向量，其中s、m、n均为大于或等于1的正整数；

计算模块，与所述数据存储器相连，用于执行所述第一矩阵和所述第二矩阵的乘法运算；

所述方法包括：

控制所述数据存储器向所述计算模块输入所述s组数据；

基于所述s组数据中的每组数据中的列向量和行向量执行一次向量外积运算，以得到所述s组数据一一对应的s个m×n的中间结果矩阵；

将所述s个m×n的中间结果矩阵中的对应元素相加，得到所述第一矩阵和所述第二矩阵的乘积结果。

8.根据权利要求7所述的方法，其特征在于，所述计算模块包括m×n个乘累加树，所述m×n个乘累加树中的乘累加器形成s组乘累加器，所述s组乘累加器中的每组乘累加器包括m×n个乘累加器，所述m×n个乘累加器中的任意两个乘累加器属于所述m×n个乘累加树中的不同的乘累加树，所述计算模块基于所述s组乘累加器分别执行所述s次向量外积运算，得到所述s个m×n的中间结果矩阵，并利用所述m×n个乘累加树，将所述s个m×n的中间结果矩阵中的对应元素相加，得到所述第一矩阵和所述第二矩阵的乘积结果。