[发明专利]用于向专用计算资源分配任务的方法、设备和计算机可读存储介质

说明书

本公开的实施例涉及一种用于向专用计算资源分配任务的方法、设备和计算机程序产品。该方法包括获取多个专用计算资源的硬件信息，其中多个专用计算资源包括第一专用计算资源和第二专用计算资源，并且硬件信息包括第一专用计算资源的第一硬件信息和第二专用计算资源的第二硬件信息。方法还包括生成基于第一硬件信息的第一任务和基于第二硬件信息的第二任务，并且向第一专用计算资源分配第一任务并且向第二专用计算资源分配第二任务。本公开的实施例针对异构专用计算资源(例如加速器设备)场景下的任务调度，根据不同的硬件能力生成相应的内核代码，能够实现针对异构专用计算资源的动态优化，从而提高资源利用率和执行效率。

技术领域

本公开的实施例总体上涉及计算机领域，并且更具体地涉及用于向专用计算资源分配任务的方法、设备以及计算机程序产品。

背景技术

专用处理资源是指一些具有专门用途的处理资源，例如图形处理单元(GPU)和现场可编程门阵列(FPGA)等加速器设备。GPU是一种专用于图形或图像的核心处理器，其主要任务是加速图形处理速度。GPU由于其高性能优势(诸如多核且适于矩阵运算)，因而广泛用作许多应用的加速器，诸如机器学习应用和深度学习应用。FPGA是专用集成电路(ASIC)领域中的一种半定制电路，既解决了定制电路的不足，又克服了原有可编程器件门电路数有限的缺点。FPGA具有显著的加速能力，因而也适合执行深度学习任务。

在处理高性能计算任务时，为了提高并行性和处理速度，通常需要多个专用处理资源一起参与。例如，将一个总任务划分成若干个子任务，然后由若干个专用处理资源来分别执行。通常，专用处理资源的价格相对昂贵，用户在购买了新的专用处理资源时可能仍然还在使用一些老的专用处理资源。因此，在执行某个高性能计算任务的过程中，可能存在多个不同类型的多个专用处理资源在同时处理的情形。

发明内容

本公开的实施例提供了一种用于向专用计算资源分配任务的方法、设备和计算机程序产品。

在本公开的一个方面，提供了一种用于向专用计算资源分配任务的方法。该方法包括：获取多个专用计算资源的硬件信息，其中多个专用计算资源包括第一专用计算资源和第二专用计算资源，并且硬件信息包括第一专用计算资源的第一硬件信息和第二专用计算资源的第二硬件信息；生成基于第一硬件信息的第一任务和基于第二硬件信息的第二任务；以及向第一专用计算资源分配第一任务并且向第二专用计算资源分配第二任务。

在本公开的另一方面，提供了一种用于向专用计算资源分配任务的设备。该设备包括处理单元以及存储器，其中存储器被耦合至处理单元并且存储有指令。所述指令在由处理单元执行时执行以下动作：获取多个专用计算资源的硬件信息，其中多个专用计算资源包括第一专用计算资源和第二专用计算资源，并且硬件信息包括第一专用计算资源的第一硬件信息和第二专用计算资源的第二硬件信息；生成基于第一硬件信息的第一任务和基于第二硬件信息的第二任务；以及向第一专用计算资源分配第一任务并且向第二专用计算资源分配第二任务。

在本公开的又一方面，提供了一种计算机程序产品。该计算机程序产品被有形地存储在非瞬态计算机可读介质上并且包括计算机可执行指令，所述计算机可执行指令在被执行时使得计算机执行根据本公开的实施例的方法或过程。

提供发明内容部分是为了简化的形式来介绍对概念的选择，它们在下文的具体实施方式中将被进一步描述。本发明内容部分无意标识本公开的关键特征或主要特征，也无意限制本公开的各个实施例的范围。

附图说明

通过结合附图对本公开示例性实施例进行更详细的描述，本公开的上述以及其它目的、特征和优势将变得更加明显，其中在本公开示例性实施例中，相同的附图标记通常代表相同的元素。

图1示出了根据本公开的实施例的向异构专用计算资源动态分配任务的示例架构的示意图；

图2示出了根据本公开的实施例的用于向专用计算资源分配任务的方法的流程图；