[发明专利]GPU分配方法、系统、电子设备及计算机可读存储介质

说明书

本申请提供一种GPU分配方法、系统、电子设备及计算机可读存储介质，涉及计算机技术领域。该方法包括：获取所有节点中的可用GPU资源量和当前任务的请求GPU资源量；分别判断各个节点的可用GPU资源量是否小于请求GPU资源量；若判定所有可用GPU资源量均小于请求GPU资源量，则从所有节点中获取满足请求GPU资源量的目标节点组，并将目标节点组中的可用GPU资源分配给当前任务。使用本申请实施例提供的GPU分配方法在实现集中分配GPU资源的同时，产生最小GPU碎片，提高了GPU资源的利用率。

技术领域

本申请涉及计算机技术领域，具体而言，涉及一种GPU分配方法、系统、电子设备及计算机可读存储介质。

背景技术

GPU凭借其对于批量同质任务的强大的计算能力，如今在数据处理、物理模拟、天气预测、现代制药、基因测序、先进制造、人工智能、密码分析等方面都有着广泛的应用。

GPU远程池化技术的出现使得GPU的使用不再受到物理机器的限制，同时运行效率还没有明显的降低。但随之产生的问题是如何对池化后的GPU资源进行合理分配，目前常用的GPU分配方式有两种，一种是使CPU尽可能多的分布于多个节点上；另一种是尽可能地将资源分配到资源占用最低的机器上；但上述两种方法无法再保证任务运行效率的前提下，减少GPU碎片的产生。

发明内容

本申请实施例的目的在于提供一种GPU分配方法、系统、电子设备及计算机可读存储介质，在实现集中分配GPU资源的同时，产生最小GPU碎片，提高了GPU资源的利用率。

第一方面，本申请实施例提供一种GPU分配方法，该GPU分配方法包括：获取所有节点中的可用GPU资源量和当前任务的请求GPU资源量；分别判断各个节点的可用GPU资源量是否小于请求GPU资源量；若判定所有可用GPU资源量均小于请求GPU资源量，则从所有节点中获取满足请求GPU资源量的目标节点组，并将目标节点组中的可用GPU资源分配给当前任务。

在上述实现过程中，首先获取所有节点中的可用GPU资源量和当前任务的请求GPU资源量，然后将当前任务的请求GPU资源量与每个单一节点中的可用GPU资源进行单独对比，若每一个单一节点中的可用GPU资源量均小于当前任务的请求GPU资源量，则对节点进行组合，并从组合节点中找出GPU资源利用率最高的节点组合作为目标节点组；因此，使用本申请实施例提供的GPU分配方法在实现集中分配GPU资源的同时，产生最小GPU碎片，提高了GPU资源的利用率。

可选地，在本申请实施例中，从所有节点中获取满足请求GPU资源量的目标节点组，并将目标节点组中的可用GPU资源分配给当前任务包括：将所有节点按照所有节点中的可用GPU资源量升序排序，以获得可用GPU资源节点序列，并将可用GPU资源量最大的节点判定为最大可用节点；根据可用GPU资源节点序列和最大可用节点，获取目标节点组；将目标节点组中的可用GPU资源分配给当前任务。

在上述实现过程中，将所有节点按照节点中的可用GPU资源量对节点进行升序排列，将节点中可用GPU资源量最大的节点最为最大可用节点；进一步地，根据最大可用节点和可用GPU资源节点序列获取目标节点，并将目标节点组中的可用GPU资源分配给当前任务。使用本申请实施例提供的GPU分配方法，能够在没有单一节点能满足当前任务的请求GPU资源量，在多个节点中找出最适合的、产生碎片量最少的目标节点组合。

可选地，在本申请实施例中，根据可用GPU资源节点序列和最大可用节点获取目标节点包括：根据可用GPU资源节点序列和最大可用节点，获取满足请求GPU资源量的最少需要节点数；根据最少需要节点数获取多个节点组；其中，多个节点组中的每个节点组均满足请求GPU资源量；在多个节点组中获取GPU资源剩余量最少的节点组，并确定其为目标节点组；其中，GPU资源剩余量为满足请求GPU资源量后目标节点组剩余的GPU资源量。