[发明专利]一种异构众核架构上的矩阵转置方法

说明书

本发明公开一种异构众核架构上的矩阵转置方法，针对大规模矩阵M*N，其中，M%8=0，N%8=0；包括以下步骤：S1、将大规模矩阵M*N以8×8粒度分块；S2、从核阵列共64个从核，利用混洗指令对该分块转置；转置运算前开始读入第k+64个分块进从核LDM，即该从核要处理的下一轮分块；S2.2、如果S2.1中读取的第p轮分块为原矩阵第i行第j列分块，则将其转置后的分块矩阵存储于新矩阵的第j行第i列分块；S2.3、当从核处理完毕第p轮分块；S3、当从核阵列处理完所有分块后，得到原矩阵的转置矩阵。本发明可以充分利用加速指令中的混洗指令进行向量化加速，突破了传统的矩阵转置算法，充分发挥硬件潜力。

技术领域

本发明涉及一种异构众核架构上的矩阵转置方法，属于高性能计算技术领域。

背景技术

异构众核处理器最突出的优势是高性能，尤其适用于高性能计算领域，主要应用于超大规模并行机等大型实用系统中，目前，其用户生态没有传统处理器那样受众广泛，硬件的性能潜力未得到充分挖掘。

科学计算中，矩阵运算是常见的工具，矩阵运算中，矩阵转置是其中常见的高频操作。传统处理器上矩阵转置，一般做法是直接读取矩阵A的a[i,j]，存储在a[j,i]，这在处理规模较小的矩阵非常方便。但是，当矩阵规模扩大到GB级别，这样的转置操作会耗费大量时间，只利用了主核的计算能力，从核处于闲置状态，从核阵列强大的计算功能未充分发挥，从而拖累整体的性能表现，不能充分发挥异构众核架构的优势。

发明内容

本发明的目的是提供一种异构众核架构上的矩阵转置方法，其可以充分利用加速指令中的混洗指令进行向量化加速，突破了传统的矩阵转置算法，充分发挥硬件潜力。

为达到上述目的，本发明采用的技术方案是：提供一种异构众核架构上的矩阵转置方法，针对大规模矩阵M*N，其中，M％8＝0，N％8＝0；

包括以下步骤：

S1、将大规模矩阵M*N以8×8粒度分块，并将获得的分块依次编号为0,1,2,3，…，num；

S2、从核阵列共64个从核，编号为k的分块交给第k％64个从核处理，具体为：

S2.1、从核阵列一轮处理64个分块，第p轮(p从0开始)，第k％64个从核读入S1中原矩阵分块后的第k个分块进从核LDM(k＝64*p，64*p+1,…，64*p+63)直至读取完毕，利用混洗指令对该读入的分块转置；

转置运算前开始读入第k+64个分块进从核LDM，即该从核要处理的下一轮分块；

S2.2、如果S2.1中读取的第p轮分块为原矩阵第i行第j列分块，则将其转置后的分块矩阵存储于新矩阵的第j行第i列分块；

S2.3、当从核处理完毕第p轮分块，回到S2.1，开始处理从核要处理的第p+1轮分块；

S3、当从核阵列处理完所有分块后，得到原矩阵的转置矩阵。

上述技术方案中进一步改进的方案如下：

上述方案中，S2.1中，利用混洗指令对8×8分块矩阵执行以下操作：

S2.1.1、通过混洗指令，对8×8分块矩阵相邻两行进行重排：

第i行和第i+1行(i＝1,3,5,7)的16个矩阵元素存在向量寄存器Va，Vb中，Rc取值0xB08(0b101 100 001 000)，则通过混洗指令vshfq，将第i行后四个元素替换为第i+1行前四个元素，得到本步骤目标矩阵的第i行；

第i行和第i+1行(i＝1,3,5,7)的16个矩阵元素存在向量寄存器Va，Vb中，Rc取值0xF9A(0b111 110 011 010)，将第i+1行前四个元素替换为第i行后四个元素，得到本步骤目标矩阵的第i+1行；