[发明专利]资源调度方法和装置、存储介质及电子设备

说明书

本发明公开了一种资源调度方法和装置、存储介质及电子设备。其中，该方法包括：通过获取服务器的图像处理单元GPU的标识信息，其中，标识信息用于标识GPU的调度方式；获取标识信息对应的资源信息；根据资源信息确定GPU的调度方式，达到了根据服务器上报的资源信息确定调度方式的目的，即根据资源信息先确定GPU的调度方式，根据调度方式进一步确定GPU的调度过程，同时支持共享和独享使用方式，使用者可以直接使用任意方式，无需通过开关设置是否开启共享，进而解决了现有技术中，GPU资源调度方式效率较低的技术问题。

技术领域

本发明涉及计算机技术领域，具体而言，涉及一种资源调度方法和装置、存储介质及电子设备。

背景技术

随着人工智能技术的发展，深度学习越来越重要。深度学习的实现，需要多种技术进行支撑，比如服务器、GPU(Graphics Processing Unit，图形处理单元)、集群、集群管理调度软件等。

Kubernetes具有完备的集群管理能力、多层次安全防护和准入机制、多租户应用支撑能力、强大的故障发现和自我修复能力以及多粒度的资源配额管理能力。kubernetes从1.6版本之后增加了对GPU资源的调度，因此被广泛地应用在人工智能领域作为深度学习的调度和监控支撑平台。

现有技术方案中通过Kubernetes系统对于GPU的调度存在如下问题：使用者需要通过开关控制是否开启GPU资源共享，用法上较不灵活。使用者需要为服务器的每块GPU设备配置共享GPU资源的容器任务数量的上限值，配置较为繁琐，尤其在Kubernetes集群内接入的GPU设备较多时。仅支持通过配置单块GPU设备允许的共享GPU资源的任务数量上限来实现GPU共享调度策略，调度算法实现单一，扩展性较差，导致GPU资源调度效率较低。

针对上述的问题，目前尚未提出有效的解决方案。

发明内容

本发明实施例提供了一种资源调度方法和装置、存储介质及电子设备，以至少解决现有技术中，GPU资源调度方式效率较低的技术问题。

根据本发明实施例的一个方面，提供了一种资源调度方法，包括：获取服务器的GPU的标识信息，其中，所述标识信息用于标识所述GPU的调度方式；获取所述标识信息对应的资源信息；根据所述资源信息确定所述GPU的调度方式。

可选的，所述获取服务器的GPU的标识信息之前，上述方法包括：根据所述GPU资源调度方式标记所述GPU的目标标识信息，其中，所述调度方式包括共享模式和是独享模式，其中，所述目标标识信息包括所述标识信息。

可选的，所述获取所述标识信息对应的资源信息，包括：在所述服务器的GPU资源调度方式为共享模式的情况下，获取所述服务器GPU设备显存信息，所述资源信息包括所述服务器GPU设备显存信息；在所述服务器的GPU资源调度方式为独享模式的情况下，获取所述GPU上报的服务器GPU设备数信息，所述资源信息包括所述服务器GPU设备数信息。

可选的，所述根据所述资源信息确定所述GPU的调度方式，包括：在所述服务器的GPU资源调度方式为共享模式的情况下，确定调度的第一服务器GPU，其中，所述第一服务器GPU满足可用总显存满足任务要求；在所述服务器的GPU资源调度方式为独享模式的情况下，确定调度的第二服务器GPU，其中，所述第二服务器GPU满足可用设备数存满足任务要求。

可选的，上述方法还包括：在所述服务器的GPU资源调度方式为共享模式的情况下，确定调度的第三服务器GPU，其中，所述第三服务器GPU满足空闲资源满足任务条件、且所剩资源最少的GPU设备；在所述服务器的GPU资源调度方式为独享模式的情况下，确定调度的第四服务器GPU，其中，所述第四服务器GPU满足空闲GPU设备满足任务条件、且所剩可用GPU设备最少的节点。

可选的，所述确定调度的第一服务器GPU之后，上述方法包括：