[发明专利]任务处理方法和装置、存储介质和电子设备

说明书

本公开实施例提供一种任务处理方法和装置、存储介质和电子设备，其中，该任务处理方法可以包括：接收待处理的至少一个目标任务，所述至少一个目标任务对应同一服务；由云平台中对应所述服务的多个服务实例中，获取存在空闲处理资源的目标服务实例；所述多个服务实例部署在所述云平台中不同的硬件资源；将所述至少一个目标任务分配至所述目标服务实例，并通过所述目标服务实例对所述目标任务进行处理。本公开实施例的云平台具备了异构硬件的混合部署的能力，同一个服务可以部署运行在多种不同的硬件上，满足了市场对多种硬件的需求。

技术领域

本公开涉及云计算技术，具体涉及一种任务处理方法和装置、存储介质和电子设备。

背景技术

早期的计算机视觉推理服务基本只能运行在单一型号的硬件上，AI服务平台也使用单一的硬件进行规划建设。但随着时间的发展，最近几年出现了大量TPU(TensorProcessing Units)设备，AI服务在通过适配后能运行在多种异构的硬件上。随着技术的不断进步发展，各种型号的AI服务推理硬件如雨后春笋般出现在市场上，云服务平台也需要同时支持多种规则的硬件以满足市场的需求。然而，为了简化工程设计，当前市场上的云服务平台均使用统一的硬件进行建设维护，后续的平台扩容维护也使用该型号的硬件，云服务平台无法享受新时代高能硬件带来的技术红利。

发明内容

本公开实施例至少提供一种任务处理方法和装置、存储介质和电子设备。

第一方面，提供一种任务处理方法，所述方法包括：

接收待处理的至少一个目标任务，所述至少一个目标任务对应同一服务；

由云平台中对应所述服务的多个服务实例中，获取存在空闲处理资源的目标服务实例；所述多个服务实例部署在所述云平台中不同的硬件资源；

将所述至少一个目标任务分配至所述目标服务实例，并通过所述目标服务实例对所述目标任务进行处理。

第二方面，提供一种任务处理装置，所述装置包括：

任务接收模块，用于接收待处理的至少一个目标任务，所述至少一个目标任务对应同一服务；

实例获取模块，用于由云平台中对应所述服务的多个服务实例中，获取存在空闲处理资源的目标服务实例；所述多个服务实例部署在所述云平台中不同的硬件资源；

任务分配模块，用于将所述至少一个目标任务分配至所述目标服务实例，并通过所述目标服务实例对所述目标任务进行处理。

第三方面，提供一种电子设备，包括：存储器、处理器，所述存储器用于存储计算机可读指令，所述处理器用于调用所述计算机指令，实现本公开任一实施例的方法。

第四方面，提供一种计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现本公开任一实施例的方法。

本公开实施例提供的任务处理方法和装置、存储介质和电子设备，通过在云平台设置部署在不同硬件资源的服务实例，使得云平台具备了异构硬件的混合部署的能力，同一个服务可以部署运行在多种不同的硬件上，满足了市场对多种硬件的需求。

附图说明

为了更清楚地说明本公开一个或多个实施例或相关技术中的技术方案，下面将对实施例或相关技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本公开一个或多个实施例中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1示出了本公开至少一个实施例提供的一种实例启动的流程图；

图2示出了本公开至少一个实施例提供的一种云平台的服务实例启动示意图；

图3示出了本公开至少一个实施例提供的一种任务处理方法的流程图；