[发明专利]使用忆阻交叉式阵列执行点积运算

权利要求书

1.一种用于对多维输入矩阵执行矩阵卷积以获得多维输出矩阵的方法，所述矩阵卷积涉及用于获得所述输出矩阵的所有元素的点积运算集，所述点积运算集中的每个点积运算涉及所述输入矩阵的输入子矩阵和至少一个卷积矩阵，所述方法包括：

提供忆阻交叉式阵列，所述忆阻交叉式阵列被配置为执行向量矩阵乘法；

通过将所述点积运算子集的卷积矩阵存储在所述交叉式阵列中来计算所述点积运算集的子集；以及

向交叉式阵列输入包括点积运算子集的输入子矩阵的所有不同元素的输入向量。

2.根据权利要求1所述的方法，其中，计算所述点积运算集的子集还包括：

选择所述点积运算子集，使得所述点积运算子集的计算产生沿所述输出矩阵的两个维度的元素，并且使得每个所选择的点积运算子集涉及不同的输入向量。

3.根据权利要求1所述的方法，其中，计算所述点积运算子集的子集还包括：

选择所述点积运算子集，使得所述点积运算子集的计算产生沿所述输出矩阵的三个维度的元素，并且使得每个所选择的点积运算子集涉及不同的输入向量。

4.根据权利要求1所述的方法，其中，对卷积神经网络的训练或推断涉及在所述卷积神经网络的每层处的层运算，所述层运算能够由所述忆阻交叉式阵列来计算，其中，所述矩阵卷积是所述卷积神经网络的给定层的层运算。

5.根据权利要求4所述的方法，其中，提供被配置为执行所述向量矩阵乘法的所述忆阻交叉式阵列还包括：

提供另外的忆阻交叉式阵列，使得所述卷积神经网络的每个另外的层与所述忆阻交叉式阵列相关联；

互连所述忆阻交叉式阵列以便以流水线方式执行；以及

使用相应的点积运算子集和与所述卷积神经网络的所述另外的层相关联的所述忆阻交叉式阵列来针对所述卷积神经网络的每个另外的层执行所述计算步骤。

6.根据权利要求5所述的方法，其中，由每个忆阻交叉式阵列计算的点积运算子集被选择，使得互连的所述忆阻交叉式阵列之间的每个互连的带宽要求是相同的。

7.根据权利要求1所述的方法，其中，所述忆阻交叉式阵列包括行线和与所述行线交叉的列线，以及在由所述行线和所述列线形成的接合点处耦合在所述行线和所述列线之间的电阻存储器元件，所述电阻存储器元件中的电阻存储器元件表示矩阵的元素的值。

8.根据权利要求7所述的方法，其中，存储所述卷积矩阵包括：

对于所述点积运算子集中的每个点积运算，将所述点积运算中涉及的卷积矩阵的所有元素存储在所述交叉式阵列的相应单个列线的电阻存储器元件中。

9.根据权利要求7所述的方法，其中，存储所述卷积矩阵包括：

将所述子集中的每个点积运算中涉及的卷积矩阵的所有元素存储在相应列线中，所述列线输出不同的输出，所述不同的输出是所述交叉式阵列的连续列线。

10.根据权利要求1所述的方法，其中，存储所述卷积矩阵包括：

识别卷积矩阵中要与相同的输入子矩阵相乘的卷积矩阵组，将所述组中的每个卷积矩阵的所有元素存储在交叉式阵列的列线中；以及

对零个或多个另外的卷积矩阵组重复所述识别步骤和所述存储步骤。

11.根据权利要求1所述的方法，其中，所述输入矩阵和所述输出矩阵包括来自卷积神经网络的层的图像的像素或激活值，并且所述卷积矩阵是核。

12.一种忆阻交叉式阵列，用于对多维输入矩阵执行矩阵卷积以获得多维输出矩阵，所述矩阵卷积涉及用于获得所述输出矩阵的所有元素的点积运算集，所述点积运算集中的每个点积运算涉及所述输入矩阵的输入子矩阵和至少一个卷积矩阵，所述交叉式阵列被配置为将所述卷积矩阵存储在所述交叉式阵列中，使得包括所述输入子矩阵的所有不同元素的一个输入向量能够被输入到所述交叉式阵列，以执行所述点积运算集的点积运算子集。