[发明专利]一种设备的调度方法

说明书

本披露公开了一种设备的调度方法，包括：确定单元设备的设备路径后，获取单元设备的设备唯一标识符，将设备路径和设备唯一标识符进行关联生成映射表，再根据设备路径查询设备健康信息，将设备唯一标识符和设备健康信息上传，当判定单元设备健康时，根据映射表确定单元设备的设备路径，进而系统框架根据设备路径调取单元设备。通过本披露中的技术方案，实现了在系统框架下，对物理机所挂载的多个单元设备进行调用和管理，提高了设备调用的灵活性。

技术领域

本申请涉及人工智能的技术领域，具体而言，涉及一种设备的调度方法。

背景技术

Kubernetes是一种开源的容器编排引擎，该容器编排引擎用于管理云平台中多个主机上的容器化的应用，其目标是让部署容器化的应用简单并且高效。原生的该容器编排引擎仅支持对CPU和内存资源的管理和限制，但是在一些实际场景下，用户可能需要该容器编排引擎对自定义设备进行调度和管理。但是，对于每一种自定义设备来说，其驱动和设备管理方式千变万化，通过修改该容器编排引擎源代码，以提供该容器编排引擎对自定义设备支持的方式，对用户来讲并不是一个好的解决方式。因此，该容器编排引擎提供了一种名为“device plugin”的设备插件机制，以实现该容器编排引擎对用户自定义设备的调度和管理支持。

异构加速设备，如机器学习单元、现场可编程门阵列以及图形加速设备等，是一种能够提供面向神经网络计算场景下的高性能计算加速设备，如机器学习单元(MachineLearning Unit，MLU)能够支持大部分机器学习算法和深度学习算法的计算。

而现有技术中，仅利用这种设备插件机制(device plugin)并不能够适用于该容器编排引擎(kubernetes)对云平台中异构加速设备的调度和管理，影响了异构加速设备在云平台中的运用。

发明内容

基于此，有必要针对上述技术问题，提供一种能够支持机器学习单元设备在kubernetes容器编排引擎的调度方法，调度方法适用于kubernetes框架，kubernetes框架连接有多个物理机，物理机上运行有设备插件，任一个物理机连接有多个机器学习单元，该调度方法包括：

步骤1，设备插件根据与所述物理机相连的机器学习单元的设备数量，确定机器学习单元的设备路径，并根据设备路径，获取机器学习单元的设备唯一标识符；

步骤2，设备插件将设备路径和设备唯一标识符关联，生成映射表，并根据设备路径调取机器学习单元中的设备健康信息，将映射表中的设备唯一标识符和设备健康信息上传至kubernetes框架；

步骤3，kubernetes框架判定设备健康信息正常时，设备插件根据映射表确定机器学习单元的设备路径，kubernetes框架根据设备路径调用机器学习单元。

本披露的有益效果是：

实现了在kubernetes系统框架下，支持kubernetes容器引擎对多个机器学习单元的调用和管理，提高了设备调用的灵活性。

附图说明

本披露的上述和/或附加方面的优点在结合下面附图对实施例的描述中将变得明显和容易理解，其中：

图1是根据本披露的一个实施例的注册阶段的示意流程图；

图2是根据本披露的一个实施例的健康检查阶段的示意流程图；

图3是根据本披露的一个实施例的分配阶段的示意流程图；

图4是根据本披露的一个实施例的测试阶段的示意流程图。

具体实施方式

下面将结合本披露实施例中的附图，对本披露实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本披露一部分实施例，而不是全部的实施例。基于本披露中的实施例，本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本披露保护的范围。