[发明专利]GPU分配方法、系统、电子设备及计算机可读存储介质

权利要求书

1.一种GPU分配方法，其特征在于，所述方法包括：

获取所有节点中的可用GPU资源量和当前任务的请求GPU资源量；

分别判断各个节点的所述可用GPU资源量是否小于所述请求GPU资源量；

若判定所有所述可用GPU资源量均小于所述请求GPU资源量，则从所述所有节点中获取满足所述请求GPU资源量的目标节点组，并将所述目标节点组中的可用GPU资源分配给所述当前任务。

2.根据权利要求1所述的方法，其特征在于，所述从所述所有节点中获取满足所述请求GPU资源量的目标节点组，并将所述目标节点组中的可用GPU资源分配给所述当前任务，包括：

将所述所有节点按照所述所有节点中的可用GPU资源量升序排序，以获得可用GPU资源节点序列，并将可用GPU资源量最大的节点判定为最大可用节点；

根据所述可用GPU资源节点序列和所述最大可用节点，获取所述目标节点组；

将目标节点组中的可用GPU资源分配给所述当前任务。

3.根据权利要求2所述的方法，其特征在于，所述根据所述可用GPU资源节点序列和所述最大可用节点获取所述目标节点，包括：

根据所述可用GPU资源节点序列和所述最大可用节点，获取满足所述请求GPU资源量的最少需要节点数；

根据所述最少需要节点数获取多个节点组；其中，所述多个节点组中的每个节点组均满足所述请求GPU资源量；

在所述多个节点组中获取GPU资源剩余量最少的节点组，并确定其为所述目标节点组；其中，所述GPU资源剩余量为满足所述请求GPU资源量后所述目标节点组剩余的GPU资源量。

4.根据权利要求3所述的方法，其特征在于，所述根据所述可用GPU资源节点序列和所述最大可用节点，获取满足所述请求GPU资源量的最少需要节点数，包括：

从所述最大可用节点，开始累计节点的可用GPU资源，直至所述可用GPU资源之和第一次大于或等于所述请求GPU资源量；

获取所述可用GPU资源之和第一次大于或等于所述请求GPU资源量对应的所有目标节点的个数，并确定其为所述最少需要节点数。

5.根据权利要求3所述的方法，其特征在于，所述根据所述最少需要节点数获取多个节点组，包括：

根据所述最少需要节点数，获取所述可用GPU资源节点序列中所有满足所述请求GPU资源量的节点，并将其组成所述多个节点组；其中，所述多个节点组中的每一节点组的节点数量均为所述最少需要节点数。

6.根据权利要求3所述的方法，其特征在于，所述在所述多个节点组中获取GPU资源剩余量最少的节点组，并确定其为所述目标节点组，包括：

获取每一所述节点组中可用GPU资源量之和；

分别将所述请求GPU资源量与所述每一所述节点组中可用GPU资源量之和作差，以获取多个剩余量差值；

将所述剩余量差值最小的节点组判定为所述目标节点组。

7.根据权利要求1所述的方法，其特征在于，所述方法还包括：若判定存在所述可用GPU资源量大于或等于所述请求GPU资源量的节点，则将所述节点中的GPU资源分配给所述当前任务。

8.一种GPU分配系统，其特征在于，所述GPU分配系统包括：数据获取模块、GPU资源数量判断模块、目标节点组获取模块以及GPU资源分配模块；

所述数据获取模块，用于获取所有节点中的可用GPU资源量和当前任务的请求GPU资源量；

所述GPU资源数量判断模块，用于分别判断各个节点的所述可用GPU资源量是否小于所述请求GPU资源量；

所述目标节点组获取模块，用于在所有所述可用GPU资源量均小于所述请求GPU资源量时，从所述所有节点中获取满足所述请求GPU资源量的目标节点组；

所述GPU资源分配模块，用于将所述目标节点组中的可用GPU资源分配给所述当前任务。