[发明专利]一种矩阵数据架构及其基于压缩稀疏列的加速SPMV的方法

说明书

本发明涉及一种矩阵数据架构，包括矩阵头和矩阵块；所述矩阵头包括了矩阵行、列数，非零元个数、矩阵块的个数和向量化长度S_VVec；所述矩阵块包括矩阵块元素每一个所述矩阵块对应的x向量像素几何方块的边长为S_ImgB；所述矩阵块的结构至少有两种，分别为定长稠密VxG块和定长稀疏VxG块。一种基于压缩稀疏列的加速稀疏矩阵向量乘(SPMV)的方法，将输入的稀疏矩阵A的矩阵格式转换为上述的矩阵数据架构，该矩阵数据架构为稀疏矩阵存储格式；对局部临时y向量重排序和完全向量化的SPMV计算。该数据架构具有占用空间少的特点，再结合基于压缩稀疏列的加速SPMV的方法，能够高效利用硬件向量化计算指令和内存带宽，使得SPMV能够以更快的的速度运行，达到加速的目的。

技术领域

本发明涉及优化加速领域，更具体地，涉及一种矩阵数据架构及其基于压缩稀疏列的加速SPMV的方法。

背景技术

稀疏矩阵向量乘(英文简称SPMV)是一个核心程序，用于许多应用:科学和工程计算、经济建模、基于社会网络数据的图分析等。在这些应用程序中，SPMV操作通常使用相同的矩阵以较高的频率执行，并支配着性能。因此，在各种特定的硬件上加速SPMV是一项重要的任务，特别是在单台计算机节点上。在单台计算机节点中，中央处理器(CentralProcessing Unit，CPU)内核共享主内存来交换数据，是主要的通用计算设备。

SPMV在单个计算节点上的性能受到内存带宽和计算中的指令延迟的限制。存储器带宽决定处理器和存储器之间传输矩阵数据的最短时间。当使用全计算节点时，SPMV的峰值性能由内存带宽决定。指令延迟通常来自浮点指令和加载和存储向量元素的指令。此外，对于SPMV，延迟还来自指示非零元素的额外指令。当使用少量CPU线程时，SPMV所消耗的时间主要由指令延迟决定，其中指示非零元素的指令所产生的延迟是可以忽略不计的一部分。加速由积分方程产生的SPMV，如迭代CT影像重建，有两类方法。第一类方法利用特定矩阵的稀疏模式，在特定的CT图像重建算法中获得了理想的加速。第二类方法忽略特定矩阵的稀疏模式，将矩阵转换为通用的存储格式，并使用常用的矩阵存储格式对SPMV操作进行优化，例如压缩稀疏行(Compress Sparse Row，CSR)、压缩稀疏列(Compress SparseColumn，CSC)、逐块格式和混合格式(SPC5、LAV)等。

为了提升使用宽向量指令的效率，部分加速SPMV计算方法采用了局部稠密矩阵块表示稀疏矩阵的方法，但是效果与应用密切相关。原因是采用了局部稠密矩阵表示方法后，大量无用的0元素将加入到矩阵里，引起无用的内存操作和计算操作。而加速SPMV计算方法则使用全局的向量和矩阵重排方案，在计算一次SPMV以前，要对向量进行一次重排序，计算完成后再进行一次重排序。难点在于确定重排序所需要的参数多数是逐案进行的，而且确定参数的计算时间甚至是进行一次SPMV耗时的数十倍到上千倍，这也大大影响了加速SPMV计算方法的实际应用。

发明内容

本发明为克服上述现有技术中加速SPMV的方法效果差问题，提供一种矩阵数据架构及其基于压缩稀疏列的加速SPMV的方法，能够高效利用硬件向量化计算指令和内存带宽，从而对SPMV进行加速。

为解决上述技术问题，本发明采用的技术方案是：一种矩阵数据架构，包括矩阵头和矩阵块；所述矩阵头包括了矩阵行、列数，非零元个数、矩阵块的个数和向量化长度S_VVec；每一个所述矩阵块对应的x向量像素几何方块的边长为S_ImgB；所述矩阵块的结构至少有两种，分别为定长稠密VxG块和定长稀疏VxG块。VxG是向量化执行组(Vectorized eXecutionGroup)的简称。

该数据架构通过对稀疏矩阵的格式进行处理获得，该数据架构具有占用空间少的特点，而使用两种不同的矩阵块结构可以实现存储量不同程度的压缩。使用该矩阵数据架构进行加速SPMV计算时，能够快速确定矩阵块结构参数。