[发明专利]一种面向三级并行中间件的计算资源自动分配方法及系统

权利要求书

1.一种面向三级并行中间件的计算资源自动分配方法，其特征在于，包括以下步骤：

步骤1：采用程序插桩方法对程序的运行时间进行预测，具体实现包括以下子步骤：

步骤1.1：定位循环语句和分支语句，在循环结构中插桩和分支语句中插桩，获取循环语句条数和分支语句条数；

步骤1.2：定位MPI通信函数，对MPI通信函数进行插桩，获取MPI通信数据量；

步骤1.3：将对原程序插桩后的新程序作为预测对象，插桩完毕后，输入运行新生成的程序，获取CPU运行时间、GPU运行时间和该程序总的运行时间的输出值，并作为输入再次进行计算，循环执行若干次，直至达到预期值，即输出值稳定，误差小于预设值；

步骤2：将计算任务进行划分，将计算任务合理地分配给任务执行单元的CPU和GPU进行计算，实现资源调度与负载均衡。

2.根据权利要求1所述的面向三级并行中间件的计算资源自动分配方法，其特征在于：步骤1.3中所述预期值，是基于各个特征的输出值对时间的影响大小，对每次输出值进行拟合。

3.根据权利要求1所述的面向三级并行中间件的计算资源自动分配方法，其特征在于：步骤2中，通过分布式框架将总计算任务进行划分，将总的任务数N作为输入，通过一个消息中间件联系；所述消息中间件将总任务数N分别分配给各个任务执行单元，并监视每个任务执行单元的运行情况；当任务执行单元的运算结束后将结果存储。

4.根据权利要求3所述的面向三级并行中间件的计算资源自动分配方法，其特征在于：所述消息中间件，是将一个任务执行单元的任务数作为输入，基于计算分配给CPU的块数，分配给GPU的块数以及在CPU上创建的线程数，经过资源调度模型，按照CPU和GPU同时完成任务的情况下计算的总时间最短这一原则分配任务，实现二者同时进行计算；

所述资源调度模型，对于新的数据的传入首先在数据库中判断要调用的Worker是否存在已经配置好的相关参数，包括CPU的块数，GPU的块数和CPU上创建的线程数；如果不存在相关参数就发送任务，让Worker调用插桩程序进行拟合，并且得出相关的结果中获得这些参数；然后根据这些参数同数据一起发送到任务队列等待从机拉取任务运行。

5.根据权利要求1-4任意一项所述的面向三级并行中间件的计算资源自动分配方法，其特征在于：所述CPU负责处理一部分数据块和线程的创建与分配，所述GPU负责处理剩下的数据块。

6.根据权利要求5所述的面向三级并行中间件的计算资源自动分配方法，其特征在于：所述线程的创建，具体实现包括以下步骤：

(1)创建程序主线程部分，首先在主线程内完成程序的顺序部分；

(2)对于可并行化的循环进行任务划分，划分主要任务是确定多少循环被CPU执行，即需要多少CPU的线程来执行，其次是确定GPU执行任务的数目；

(3)创建线程执行分配好的任务，一部分线程执行计算任务，一部分线程控制GPU执行分配给GPU的任务；

(4)等待任务全部结束，合并任务结果；

(5)继续执行代码的剩余部分。

7.一种面向三级并行中间件的计算资源自动分配系统，其特征在于，包括以下模块：

模块1，用于采用程序插桩方法对程序的运行时间进行预测，具体实现包括以下子模块：

模块1.1，用于定位循环语句和分支语句，在循环结构中插桩和分支语句中插桩，获取循环次数和分支数；

模块1.2，用于定位MPI通信函数，对MPI通信函数进行插桩，获取通信数据量；

模块1.3，用于将对原程序插桩后的新程序作为预测对象，插桩完毕后，输入运行新生成的程序，获取CPU运行时间，GPU运行时间，程序总体运行时间的输出值，并作为输入再次进行计算，循环执行若干次，直至达到预期值，即输出值稳定，误差小于0.001；

模块2，用于将计算任务进行划分，将计算任务合理地分配给任务执行单元的CPU和GPU进行计算，实现资源调度与负载均衡。