[发明专利]异构资源调度方法、装置、设备和计算机可读存储介质

说明书

本申请涉及人工智能领域，提供了异构资源调度方法、设备和计算机可读存储介质，以打通异构资源的隔离，平衡使用AI平台的异构资源。所述方法包括：通过深度学习框架统一接口接收总体通用任务；基于异构硬件架构中各异构硬件单元的资源特征，确定执行总体通用任务的调度策略；基于确定出的调度策略，将总体通用任务所包含的各个子任务通过统一的硬件抽象与应用编程接口分发至适配的异构硬件单元执行。由于总体通用任务是通过深度学习框架统一接口接收，并且，其子任务通过统一的硬件抽象与应用编程接口分发，因此，本申请的技术方案可以兼容不同的硬件(芯片)，屏蔽了异构硬件单元的差异，从而打通异构资源的隔离，各种任务平衡使用AI平台的资源。

技术领域

本发明涉及人工智能领域，特别涉及一种异构资源调度方法、装置、设备和计算机可读存储介质。

背景技术

随着人工智能(Artificial Intelligence，AI)的飞速发展，AI技术逐渐应用到与人们生活密切相关的领域。AI平台配置有各种资源，这些资源用于完成各种类型的任务。

基于各方面的考虑，AI平台并非只有一种类型的资源可供调用，换言之，AI平台具有各种不同类型的资源，例如图形处理器、神经网络处理器等，这些资源之间互相异构即相互之间成为异构资源。当用户向AI平台提交任务时，实际是由用户决定使用哪种资源类型，例如，用户提交的是图像识别类的任务，则可能倾向于调度图形处理器。

显然，上述异构资源之间是互相隔离的，此外，异构资源的需求并不平衡，在调度这些异构资源调度时，可能存在某种特定资源近乎耗尽，而其他资源则大量闲置。

发明内容

本申请提供一种异构资源调度方法、装置、设备和计算机可读存储介质，以打通异构资源的隔离，平衡使用AI平台的异构资源。

一方面，本申请提供了一种异构资源调度方法，包括：

通过深度学习框架统一接口接收总体通用任务；

基于异构硬件架构中各异构硬件单元的资源特征，确定执行所述总体通用任务的调度策略；

基于所述调度策略，将所述总体通用任务所包含的各个子任务通过统一的硬件抽象与应用编程接口分发至适配的异构硬件单元执行。

另一方面，本申请提供了一种异构资源调度装置，包括：

接收模块，用于通过深度学习框架统一接口接收总体通用任务；

确定模块，用于基于异构硬件架构中各异构硬件单元的资源特征，确定执行所述总体通用任务的调度策略；

分发模块，用于基于所述调度策略，将所述总体通用任务所包含的各个子任务通过统一的硬件抽象与应用编程接口分发至适配的异构硬件单元执行。

第三方面，本申请提供了一种设备，所述设备包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如上述异构资源调度方法的技术方案的步骤。

第四方面，本申请提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现如上述异构资源调度方法的技术方案的步骤。

从上述本申请提供的技术方案可知，通过深度学习框架统一接口接收总体通用任务，基于异构硬件架构中各异构硬件单元的资源特征，确定执行总体通用任务的调度策略，然后，基于确定出的调度策略，将总体通用任务所包含的各个子任务通过统一的硬件抽象与应用编程接口分发至适配的异构硬件单元执行。由于总体通用任务是通过深度学习框架统一接口接收，并且，其子任务通过统一的硬件抽象与应用编程接口分发，因此，可以兼容不同的硬件(芯片)，屏蔽了异构硬件单元的差异，从而打通异构资源的隔离，各种任务平衡使用AI平台的资源。

附图说明