[发明专利]用于执行矩阵乘积和累加运算的处理器、方法及存储介质

摘要

公开了用于执行矩阵乘积和累加(MMA)运算的方法、计算机可读介质和处理器。处理器包括数据路径，其被配置为执行MMA运算以在数据路径的输出处生成结果矩阵的多个元素。通过计算与在用于MMA运算的指令中指定的矩阵运算对象相关联的相应向量对的至少一个点积来生成结果矩阵的每个元素。点积操作包括以下步骤：通过将第一向量的每个元素与第二向量的对应元素相乘来生成多个部分乘积；基于与第一向量的每个元素和第二向量的每个元素相关联的指数来对齐多个部分乘积；以及利用至少一个加法器将多个经对齐的部分乘积累加到结果队列中。

主权项

1.一种处理器，包括：数据路径，其被配置为执行矩阵乘积和累加(MMA)运算以在所述数据路径的输出处生成结果矩阵的多个元素，其中所述结果矩阵的所述多个元素中的每个元素是通过计算与在用于所述MMA运算的指令中指定的矩阵运算对象相关联的相应向量对的至少一个点积来生成的，以及其中用于计算所述至少一个点积中的每个点积的点积运算包括：通过将第一向量的每个元素与第二向量的对应元素相乘来生成多个部分乘积，基于与所述第一向量的每个元素和所述第二向量的每个元素相关联的指数来对齐所述多个部分乘积，以及利用至少一个加法器并行地将所述多个经对齐的部分乘积累加到结果队列中。