[发明专利]用于向专用计算资源分配任务的方法、设备和计算机可读存储介质

权利要求书

1.一种用于向专用计算资源分配任务的方法，包括：

获取多个专用计算资源中的每个专用计算资源的硬件信息，所述多个专用计算资源被分配给某一类型的计算任务，其中所述多个专用计算资源包括第一专用计算资源和第二专用计算资源，所述硬件信息包括所述第一专用计算资源的第一硬件信息和所述第二专用计算资源的第二硬件信息；

生成基于所述第一硬件信息的第一任务和基于所述第二硬件信息的第二任务，所述第一任务和所述第二任务是利用基于所述第一硬件信息和第二硬件信息的第一编译规则和第二编译规则分别生成的，所述第一硬件信息指示所述第一专用计算资源支持特定功能，并且所述第二硬件信息指示所述第二专用计算资源不支持所述特定功能，其中所述第一编译规则用于编译与不同硬件能力相关联的内核代码以在第一类型的专用计算资源上被执行，并且所述第二编译规则用于编译与不同硬件能力相关联的内核代码以在第二类型的专用计算资源上被执行；以及

响应于编译与不同硬件能力相关联的所述内核代码以在所述第一类型的专用计算资源和所述第二类型的专用计算资源上被执行，向所述第一专用计算资源分配所述第一任务并且向所述第二专用计算资源分配所述第二任务，

其中所述专用计算资源包括加速器，并且所述第一任务和所述第二任务是深度学习任务，并且所述方法还包括：

基于编译的所述内核代码，在所分配的所述第一专用计算资源和所分配的所述第二专用计算资源上分别执行所述深度学习任务。

2.根据权利要求1所述的方法，其中获取多个专用计算资源的硬件信息包括：

获得高性能计算任务；

向所述高性能计算任务分配所述多个专用计算资源；以及

实时地获取所述多个专用计算资源中的每个专用计算资源的硬件信息。

3.根据权利要求1所述的方法，其中获取多个专用计算资源的硬件信息包括：

周期性地查询所述多个专用计算资源中的每个专用计算资源的硬件信息；

将查询到的硬件信息存储到数据库中，所述硬件信息包括每个专用计算资源的标识符、类型以及性能参数；以及

从所述数据库获取所述多个专用计算资源的所述硬件信息。

4.根据权利要求1所述的方法，其中生成基于所述第一硬件信息的第一任务和基于所述第二硬件信息的第二任务包括：

基于所述第一硬件信息和第二硬件信息，分别确定所述第一编译规则和所述第二编译规则，所述第一硬件信息指示所述第一专用计算资源支持所述特定功能，所述第二硬件信息指示所述第二专用计算资源不支持所述特定功能；以及

使用第一编译规则和第二编译规则分别生成所述第一任务和所述第二任务。

5.根据权利要求4所述的方法，其中生成基于所述第一硬件信息的第一任务和基于所述第二硬件信息的第二任务还包括：

将所述第一任务与所述第一专用计算资源的第一标识符相关联；以及

将所述第二任务与所述第二专用计算资源的第二标识符相关联，每个标识符包括每个专用计算资源的因特网协议(IP)地址和本地标识。

6.根据权利要求1所述的方法，还包括：

从所述第一专用计算资源接收针对所述第一任务的第一结果；

从所述第二专用计算资源接收针对所述第二任务的第二结果；以及

组合所述第一结果和所述第二结果。

7.根据权利要求1所述的方法，其中所述多个专用计算资源还包括第三专用计算资源，所述第三专用计算资源的类型与所述第二专用计算资源的类型相同，其中向所述第二专用计算资源分配所述第二任务包括：

向所述第二专用计算资源和所述第三专用计算资源分配所述第二任务。

8.根据权利要求1所述的方法，其中所述专用计算资源包括图形处理单元(GPU)。