[发明专利]一种基于CPU-GPU的负载均衡方法及设备

说明书

本申请的目的是提供一种基于CPU‑GPU的负载均衡方法及设备，本申请通过在CPU‑GPU异构数据库系统上构建流水线查询执行模型，使CPU‑GPU异构数据分析系统能够支持大数据场景下的查询分析；确定待执行的流水线的总数量；启动所述流水线查询执行模型将所述总数量对应的所述流水线分配至所述CPU和所述GPU上，并根据确定的分别在所述CPU和所述GPU上单条所述流水线的执行时长，计算所有的负载分配策略分别对应的系统执行时长；最后将所有的所述系统执行时长中的最小值对应的负载分配策略确定为最佳CPU‑GPU分配策略，基于CPU‑GPU异构数据分析系统的负载均衡策略能够合理分配流水线负载至不同处理器，充分利用处理器计算资源，不仅提高系统性能，还能使系统达到总性能最佳。

技术领域

本申请涉及计算机领域，尤其涉及一种基于CPU-GPU的负载均衡方法及设备。

背景技术

通用图形处理单元(Graphics Processing Unit，GPU)在矩阵计算、机器学习等多个领域被广泛应用。近年来，数据密集型应用的相关需求快速增长，促进了基于GPU的异构在线分析处理平台的发展，由于GPU拥有多个可同时运行大量线程的计算单元，因此以GPU作为主处理器的数据分析系统的性能在大部分情况下优于传统的CPU分析系统，其执行时间缩短了几个数量级。

在传统的关系型查询分析系统中，当客户端发送查询请求时，系统会新建一个分析作业，对请求进行解析并转换为逻辑查询计划，查询计划优化器会根据一定原则(例如成本最低)选择最优的物理查询计划执行。物理查询计划是一个有向无环图(DAG)，它包含多个操作算子，操作算子之间按照一定顺序执行。

在当前的CPU-GPU异构分析系统中，GPU是查询执行的主处理器，操作算子的执行主要分布在GPU上，而CPU主要负责数据分发和结果收集，当后续操作需要使用先前步骤输出的中间结果时，CPU还要对中间结果做一定处理。

数据处理分析系统处理的分析需求面向大数据场景，且数据量呈指数级增长，工作负载较重；然而，由于GPU只能直接处理在其内部存储介质中的数据，而显存的容量有限，因此GPU无法通过单次加载就完成大数据集的处理。当输入数据或中间结果太大无法放入GPU全局内存时，会导致分析工作的效率持续低下，甚至造成任务失败。现有技术中通过限制查询表的大小规避这个问题，或者把计算任务转移至CPU作为替代策略，但这些均不是最佳的解决方案。

综上所述，目前在CPU-GPU的异构平台上，使用GPU为数据分析系统加速查询分析虽有成效，但仍存在以下问题：GPU显存容量有限，无法通过单次加载完成大数据集的处理，及CPU与GPU间的任务分配不均衡，没有充分利用异构处理器资源。

发明内容

本申请的一个目的是提供一种基于CPU-GPU的负载均衡方法及设备，以解决现有技术中的GPU显存容量有限，无法通过单次加载完成大数据集的处理，及CPU与GPU间的任务分配不均衡导致没有充分利用异构处理器资源的问题。

根据本申请的一个方面，提供了一种基于CPU-GPU的负载均衡方法，该方法包括：

在CPU-GPU异构数据库系统上构建流水线查询执行模型；

确定待执行的流水线的总数量；

启动所述流水线查询执行模型，将所述总数量对应的所述流水线分配至所述CPU和所述GPU上，并根据确定的分别在所述CPU和所述GPU上单条所述流水线的执行时长，计算所有的负载分配策略分别对应的系统执行时长；

将所有的所述系统执行时长中的最小值对应的负载分配策略确定为最佳CPU-GPU分配策略。

进一步地，上述方法中，所述确定待执行的流水线的总数量，包括：

获取查询语句，其中，所述查询语句包括待查询数据；