[发明专利]支持多MAC运算部件向量处理器的分块矩阵乘法向量化方法

说明书

技术领域

本发明主要涉及到数据处理技术领域，特指一种支持多MAC运算部件向量处理器的分块矩阵乘法向量化方法。

背景技术

随着大型稠密线性方程组求解、4G无线通信、雷达信号处理、高清视频和数字图像处理等计算密集型应用的高性能计算需求日益增长，计算机体系结构出现显著变化，出现许多新型体系结构，如众核体系结构、异构多核体系结、流处理器体系结构和向量处理器体系结构等等，这些新的体系结构在单芯片上集成多个处理器核，每个核上包含丰富的运算部件，大幅度提高了芯片的计算性能；同时，还对软件开发提出了新的挑战。因为现有的大量程序和算法是基于单核处理器设计的，如何针对多核、多运算部件等体系结构特点，充分开发各个层次的并行性，高效地并行和向量化这些应用算法是当前面临的主要困难。

“矩阵乘法”是高性能计算（High Performance Computing，HPC）常用的核心模块之一，是典型的计算密集和访存密集型应用，对处理器的乘加（Multiply Accumulate，MAC）能力和访存带宽要求非常高，计算的时间复杂度很高，大约为O（N³），N为矩阵规模。传统的三重循环实现矩阵乘法的方法计算访存比较低，Cache的数据缺失、矩阵数据搬移开销占比大，导致处理器的运算效率较低。分块矩阵乘法方法将大矩阵的乘法分割为一系列子矩阵的乘法，通过合理的设置子矩阵的块大小，子矩阵的块大小blocksize通常满足blocksize<=sqrt(M/3)，M为Cache的容量，使得子矩阵计算时的数据访问能够全部在Cache中命中，通过减少子矩阵的计算时间降低整个大矩阵乘法的计算时间，从而大幅度提高处理器的运算效率。

图1是多MAC运算部件向量处理器的一般结构示意图，它包括标量处理部件（Scalar Processing Unit，SPU）和向量处理部件（Vector Processing Unit，VPU），SPU负责标量任务计算和流控，VPU负责向量计算，包括若干向量处理单元（Vector Processing Element，VPE），每个VPE包含MAC0、MAC1等多个运算功能部件，以及ALU 、BP等其他功能部件。SPU和VPU提供数据通道传输和交换数据。向量数据访问单元支持向量数据的Load/Store，提供大容量的专用向量存储器，而不是单核处理器的Cache机制，现有的分块矩阵乘法方法不适合这类向量处理器。因此，亟需设计一种高效的支持多MAC运算部件向量处理器的分块矩阵乘法向量化的方法，以便最优的发挥向量处理器的运算效率。

发明内容

本发明要解决的技术问题就在于：针对现有技术存在的技术问题，本发明提供一种实现简单、操作方便、可提高向量处理器并行性、能提高处理器运算效率的支持多MAC运算部件向量处理器的分块矩阵乘法向量化方法。

为解决上述技术问题，本发明采用以下技术方案：

一种支持多MAC运算部件向量处理器的分块矩阵乘法向量化方法，流程为：

（1）依据向量处理器的向量处理单元VPE的数量p、VPE中的MAC运算部件的数量m、向量存储器的容量s和矩阵元素的数据大小d，确定最优的子矩阵的块大小blocksize，确定乘数矩阵B的子矩阵的列数和行数以及确定被乘数矩阵A的子矩阵的行数与列数；

（2）将向量存储器的容量s分为容量相等的两部分存储区域Buffer0和Buffer1，依次在Buffer0和Buffer1间以乒乓方式实现子矩阵的乘法，直到整个矩阵乘法计算完成。

作为本发明的进一步改进：

所述步骤（1）中，乘数矩阵B的子矩阵的列数为p*m，行数为(s/2/2)/(p*m*d)；确定乘数矩阵B的子矩阵块大小后，再确定被乘数矩阵A的子矩阵块大小；所述被乘数矩阵A的子矩阵的行数与列数都等于乘数矩阵B的子矩阵的行数，即(s/2/2)/(p*m*d)。

所述向量处理器的标量处理部件SPU依次读取被乘数子矩阵A的每一行中的每一个元素，并扩展成一个向量数据；由向量处理部件VPU读取乘数子矩阵B的B0行数据与前述向量数据的每个元素分别进行乘累加；当遍历完被乘数子矩阵的A0行数据时，计算得到结果子矩阵C的C0行数据；当遍历完被乘数子矩阵A的所有行时，完成结果子矩阵C的计算。