[发明专利]适合分布式并行计算的PBiCOR方法

说明书

技术领域

本发明涉及并行机通讯技术领域，特别是适合分布式并行计算的PBiCOR方法。

背景技术

随着大规模并行计算机的发展和应用，复杂物理系统的高分辨率数值模拟已被提上议事日程，并行计算机按存储方式划分，可分为共享内存和分布式内存两种基本的并行计算机存储方式，共享内存的并行计算机，各个处理单元通过对共享内存的访问来交换信息、协调各处理器对并行任务的处理，对这种共享内存的编程，实现起来相对简单，但共享内存往往成为性能特别是扩展性的重要瓶颈，分布式内存的并行计算机，各个处理单元都拥有自己独立的局部存储器，由于不存在公共可用的存储单元，因此各个处理器之间通过消息传递来交换信息、协调和控制各个处理器的执行，不难看出，通讯对分布式内存并行计算机的性能有重要的影响，复杂的消息传递语句的编写成为在分布式并行计算机上进行并行程序设计的难点所在，但是，对于分布式并行计算机，由于它有很好的扩展性和很高的性能，它的应用非常广泛。

对于分布式存储并行机，由于矩阵和向量被分布存储在各处理器上，因此，即使矩阵运算通过并行运算可有效地实现，全局通讯，即内积计算所引起的所有处理器间的通讯，我们仍不能有效避免，Yang等分别提出了并行化的CGS和Bi-CGSTAB方法，Sturler等提出了如何降低GMRES和CG算法中全局通讯影响的方法，Gu和Zuo等分别给出了并行化的BICGSTAB(2)、GPBiCG和IICGS方法，Collignon等给出了并行IDR(s)方法；同时，基于区域分解，Gu，Liu和Mo给出了一种不需整体内积计算的CG类方法，即多搜索方向共轭梯度(MSD-CG)方法，该方法将CG方法中的内积计算用小线性方程组来代替，从而完全消除了全局通讯。

发明内容

针对上述情况，为克服现有技术之缺陷，本发明之目的在于提供适合分布式并行计算的PBiCOR方法，有效解决了分布式存储并行机全局通讯互相影响的问题。

其解决的技术方案是，假设并行机具有P台处理机，每台处理机分别具有局部存储模块和相应的处理单元，处理单元之间通过互联网相连；

假定采用SPMD模型，即所有的处理单元执行相同的程序，且一个处理单元需要远程处理单元的数据时，必须通过消息传递完成；

P为处理器台数，N为稀疏矩阵A的维数，n_z为矩阵A每行(列)非零元素的平均个数，t_fl为一个浮点操作的时间，t_s为一个消息启动时间，t_w为一个字在两台处理器间传递所需的时间，一个内积或一个向量校正的计算时间为2t_flN/P，其中N/P为分配给每个处理器的未知量个数，(2n_z-1)t_flN/P为稀疏矩阵向量乘积的计算时间；

具有P台处理器的矩阵(或网状)分布式并行式，并假设通讯是二叉树方式进行的，则一个内积的整体聚集和广播的时间为2logP(t_s+t_w)，而同时聚集和广播K个内积的时间为2logP(t_s+kt_w)，稀疏矩阵已被映射到各处理器，使得矩阵向量乘积只需相邻处理器间的局部通讯，矩阵向量乘积所需的通讯是交换边界数据，即从其他处理器接收边界数据和向其他处理器发送边界数据，假设每个处理器必须接收和发送n_m个信息，每个处理器上有n_b边界数据单元个数，因此，每个处理器必须进行通讯的总字长为2(2n_b+n_m)；

由于不需通讯，一个向量校正的时间为：

t_{vec_upd}＝2t_flN/P(2)

只需一次全局通讯的K个内积的时间为：

t_{inn_prod}(k)＝2kt_flN/P+2logP(t_s+kt_w)(3)

只需局部通讯的一个矩阵向量乘积的时间为：

t_{mat_vec}＝(2n_z-1)t_flN/P+2n_mt_s+2(2n_b+n_m)t_w(4)