[发明专利]一种基于CPU-GPU的负载均衡方法及设备

权利要求书

1.一种基于CPU-GPU的负载均衡方法，其中，所述方法包括：

在CPU-GPU异构数据库系统上构建用于对流水线进行查询分析的模型；

确定待执行的流水线的总数量；

启动所述用于对流水线进行查询分析的模型，将所述总数量对应的所述流水线分配至所述CPU和所述GPU上，并根据确定的分别在所述CPU和所述GPU上单条所述流水线的执行时长，计算所有的负载分配策略分别对应的系统执行时长；

将所有的所述系统执行时长中的最小值对应的负载分配策略确定为最佳负载分配策略。

2.根据权利要求1所述的方法，其中，所述确定待执行的流水线的总数量，包括：

获取查询语句，其中，所述查询语句包括待查询数据；

根据预设数据分片大小对所述待查询数据进行划分，得到所述待查询数据的数据分片及其总数；

分别为所述待查询数据中的每个所述数据分片启动对应的流水线，则待执行的所述流水线的总数量由所述数据分片的总数确定。

3.根据权利要求2所述的方法，其中，启动所述用于对流水线进行查询分析的模型将所述总数量对应的所述流水线分配至所述CPU和所述GPU上，并根据确定的分别在所述CPU和所述GPU上单条所述流水线的执行时长，计算所有的负载分配策略分别对应的系统执行时长，包括：

步骤一、启动用于对流水线进行查询分析的模型，设置初始负载分配策略：为所述CPU分配的流水线数量NCPU＝0，为所述GPU分配的流水线数量NGPU＝N，其中，N为所述流水线的总数量且N为大于等于1的正整数；

步骤二、并行执行分别分配在所述CPU和所述GPU上的每个所述流水线，得到当前负载分配策略对应的CPU执行时长和GPU执行时长；

步骤三、若所述CPU执行时长和所述GPU执行时长相等，则将所述CPU执行时长确定为当前负载分配策略对应的系统执行时长；若所述CPU执行时长和所述GPU执行时长不相等，则将所述CPU执行时长和所述GPU执行时长中的较大值确定为当前负载分配策略对应的系统执行时长；

步骤四、更新负载分配策略：为所述CPU分配的流水线数量NCPU＝NCPU+1，为所述GPU分配的流水线数量NGPU＝NGPU-1，其中，NCPU+NGPU＝N；

步骤五、重复上述步骤二至步骤四，直至得到所有的负载分配策略分别对应的系统执行时长。

4.根据权利要求3所述的方法，其中，所述根据确定的分别在所述CPU和所述GPU上单条所述流水线的执行时长，计算所有的负载分配策略分别对应的系统执行时长之前，还包括：

根据所述数据分片在CPU上的数据输入时长TIN_C、数据执行时长TEXE_C及数据输出时长TOUT_C，确定在所述CPU上单条所述流水线的执行时长；

根据所述数据分片在GPU上的数据输入时长TIN_G、数据执行时长TEXE_G及数据输出时长TOUT_G，确定在所述GPU上单条所述流水线的执行时长。

5.根据权利要求4所述的方法，其中，所述步骤二、中的得到当前负载分配策略对应的CPU执行时长和GPU执行时长的公式分别为：

TCPU＝TIN_C+TEXE_C+TOUT_C+Max(TIN_C，IEXE_C，TOUT_C}×(NCPU-1)，

TGPU＝TIN_G+TEXE_G+TOUR_G+Max{TIN_G，TEXE_G，TOUT_G}×(NGPU-1)，

其中，TCPU为当前负载分配策略对应的CPU执行时长，Max{TIN_C，TEXE_C，TOUT_C}为数据分片在CPU上的数据输入时长TIN_C、数据执行时长TEXE_C及数据输出时长TOUT_C中的最大值；

TGPU为当前负载分配策略对应的GPU执行时长，Max{TIN_G，TEXE_G，TOUT_G}为数据分片在GPU上的数据输入时长TIN_G、数据执行时长TEXE_G及数据输出时长TOUT_G中的最大值。