[发明专利]一种任务调度方法、装置、设备及介质

说明书

本发明实施例公开了一种任务调度方法、装置、设备及介质，所述方法包括：当任务调度指令被触发时，获取待分配预测任务的任务信息以及待分配图形处理器的处理器信息；根据所述任务信息以及所述处理器信息选取一待分配预测任务作为目标预测任务；获取所述目标预测任务对应的目标任务类型，将所述目标任务类型对应的待分配预测任务作为所述待分配图形处理器对应的目标执行任务。本发明实施例提供的任务调度方法通过根据任务状态，在图形处理器资源有限的情况下，为每个图形处理器分配同一类型的待预测任务，使得在有限的图形处理器硬件资源下，实现了多种不同的模型预测，且降低了图形处理器的启停次数，提高了图形处理器的硬件使用率。

技术领域

本发明实施例涉及数据处理领域，尤其涉及一种任务调度方法、装置、设备及介质。

背景技术

随着图形处理器(Graphics Processing Unit，GPU)技术的不断进步，GPU逐渐成为计算系统中最重要的加速部件之一。目前，基于深度学习技术的学习预测任务，例如，用于疾病分析的神经网络模型预测任务等等，通常基于GPU实现硬件加速，但GPU价格不菲且资源有限，单个GPU硬件设备显存为几G至几十G不等，常用的深度学习模型占用显存从几十M至数百G，如何在有限的GPU硬件资源下，实现多种不同的模型预测，是一个亟待解决的技术问题。

发明内容

本发明实施例提供了一种任务调度方法、装置、设备及介质，以实现在有限的GPU硬件资源下，实现多种不同的模型预测，提高GPU的硬件使用率。

第一方面，本发明实施例提供了一种任务调度方法，包括：

当任务调度指令被触发时，获取待分配预测任务的任务信息以及待分配图形处理器的处理器信息；

根据所述任务信息以及所述处理器信息选取一待分配预测任务作为目标预测任务；

获取所述目标预测任务对应的目标任务类型，将所述目标任务类型对应的待分配预测任务作为所述待分配图形处理器对应的目标执行任务。

第二方面，本发明实施例还提供了一种一种任务调度装置，包括：

任务信息获取模块，用于当任务调度指令被触发时，获取待分配预测任务的任务信息以及待分配图形处理器的处理器信息；

目标任务确定模块，用于根据所述任务信息以及所述处理器信息选取一待分配预测任务作为目标预测任务；

预测任务分配模块，用于获取所述目标预测任务对应的目标任务类型，将所述目标任务类型对应的待分配预测任务作为所述待分配图形处理器对应的目标执行任务。

第三方面，本发明实施例还提供了一种计算机设备，所述设备包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序；

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如本发明任意实施例所提供的任务调度方法。

第四方面，本发明实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明任意实施例所提供的任务调度方法。

本发明实施例通过当任务调度指令被触发时，获取待分配预测任务的任务信息以及待分配图形处理器的处理器信息；根据所述任务信息以及所述处理器信息选取一待分配预测任务作为目标预测任务；获取所述目标预测任务对应的目标任务类型，将所述目标任务类型对应的待分配预测任务作为所述待分配图形处理器对应的目标执行任务，通过根据任务状态，在GPU资源有限的情况下，为每个GPU分配同一类型的待预测任务，使得在有限的GPU硬件资源下，实现了多种不同的模型预测，且降低了GPU的启停次数，提高了GPU的硬件使用率。

附图说明