[发明专利]算力资源调度方法、算力资源调度模型的训练方法和系统

说明书

本说明书提供的算力资源调度方法、算力资源调度模型的训练方法和系统，在获得本地设备在当前状态下的状态数据后，将状态数据输入至算力资源调度模型，以得到当前状态下的调度数据，所述调度数据中包括目标调度操作的操作数据，以及，基于操作数据，执行目标调度操作，以在本地设备进行算力资源调度；该方案可以提升算力资源调度的调度效率。

技术领域

本说明书涉及算力资源调度领域，尤其涉及一种算力资源调度方法、算力资源调度模型的训练方法和系统。

背景技术

不同设备的芯片类型、内存大小上往往存在一些差异，使得不同设备的算力差别很大。设备在执行任务时，尤其是对于算力不足的设备，通过调度算力资源，可以有效减少设备执行任务时的链路耗时。

目前，对于不同的设备，可以基于先验经验手动调整算力分配，但是，算力资源调度的参数空间大，遍历这些参数往往需费时费力，导致算力资源调度的效率较低，因此，需要提供一种调度效率更高的算力资源调度方法。

发明内容

本说明书提供一种调度效率更高的算力资源调度方法、算力资源调度模型的训练方法和系统。

第一方面，本说明书提供一种算力资源调度方法，包括：获得所述本地设备在当前状态下的状态数据；将所述状态数据输入至算力资源调度模型，以得到所述当前状态下的调度数据，所述调度数据包括目标调度操作的操作数据；以及基于所述操作数据，执行所述目标调度操作，以在所述本地设备进行算力资源调度。

在一些实施例中，所述状态数据包括算力配置数据、设备状态数据或运行状态数据中的至少一种。

在一些实施例中，所述目标调度操作包括线程调整或所述本地设备中至少一个应用模型的模型加载类型的调整中的至少一个。

在一些实施例中，所述线程调整包括线程数调整或所述至少一个应用模型中每一应用模型的并行线程数调整中的至少一个。

在一些实施例中，所述操作数据包括操作标识、操作参数或操作时序中的至少一种。

在一些实施例中，所述将所述状态数据输入至目标调度模型，以得到所述当前状态下的调度数据，包括：将所述状态数据输入至所述算力资源调度模型，以得到所述当前状态下每一预设调度操作的调度评分，所述调度评分表征执行对应的所述预设调度操下所述本地设备执行目标任务的预测链路耗时；以及基于所述调度评分，在所述每一预设调度操作中选取出至少一个调度操作，以得到所述当前状态下的调度数据。

在一些实施例中，所述在所述每一预设调度操作中选择出至少一个调度操作，以得到所述当前状态下的调度数据，包括：基于所述调度评分，在预设调度操作集合中选取出至少一个候选调度操作，得到候选调度操作集合，所述预设调度操作集合包括所述每一预设调度操作；基于预设业务指标和所述状态数据，对所述本地设备进行状态评估，得到评估结果；以及基于所述评估结果，在所述候选调度操作集合中选取出目标调度操作，并确定所述目标调度操作的操作数据，以得到所述调度数据，所述目标调度操作包括所述本地设备执行所述目标任务下的全局链路耗时满足预设耗时条件下的至少一个候选调度操作。

在一些实施例中，所述在预设调度操作集合中选取出至少一个候选调度操作，得到候选调度操作集合，包括：基于所述调度评分，对所述预设调度操作集合中的所述每一预设调度操作进行排序；以及基于排序结果，在所述预设调度操作集合中选取出预设排序范围对应的至少一个预设调度操作，得到所述候选调度操作集合。

在一些实施例中，所述目标任务包括生物识别、交互、营销或运行中的至少一种。