[发明专利]机器学习任务的资源管理方法、系统、设备及介质

说明书

本申请实施例提供了一种机器学习任务的资源管理方法、系统、设备及介质，属于机器学习技术领域。方法包括：获取机器学习中的目标任务；获取目标任务对应的资源弹性伸缩计划策略；根据资源弹性伸缩计划策略确定目标任务执行过程中不同时间段下的资源配置需求，并根据多个资源配置需求生成目标任务执行过程中不同时间段下的资源约束信息；根据资源约束信息生成分时段的弹性伸缩任务，并根据弹性伸缩任务对目标任务执行过程中不同时间段下的资源进行资源申请或资源选定，确定完成资源申请或资源选定后的资源为目标资源。本申请能够提高机器学习任务中资源的利用率，降低机器学习的任务成本。

技术领域

本申请涉及机器学习技术领域，尤其涉及一种机器学习任务的资源管理方法、系统、设备及介质。

背景技术

机器学习任务生命周期内资源(如算力、内存、存储等)分配一般默认方法是固定进行资源的分配，而分配的资源规格需满足任务峰值时对算力的需求才可保证学习任务正常执行完毕。

但是，相关技术中，学习任务的资源使用量无法准确估算，并且大数据模型的任务执行周期又相当的长，因此任务执行周期内负载并非平滑且一成不变的，而是存在波峰波谷，机器学习任务过程中会长期出现资源分配与学习任务资源需求贴合度不够，造成资源浪费、资源的利用率低下，进而会导致机器学习平台资源成本升高，同时任务执行成本也会变高。

发明内容

本申请实施例的主要目的在于提出一种机器学习任务的资源管理方法、系统、设备及介质，能够提高机器学习任务中资源的利用率，降低机器学习的任务成本。

为实现上述目的，本申请实施例的第一方面提出了一种机器学习任务的资源管理方法，所述方法包括：获取机器学习中的目标任务；获取所述目标任务对应的资源弹性伸缩计划策略；根据所述资源弹性伸缩计划策略确定所述目标任务执行过程中不同时间段下的资源配置需求，并根据多个所述资源配置需求生成所述目标任务执行过程中不同时间段下的资源约束信息；根据所述资源约束信息生成分时段的弹性伸缩任务，并根据所述弹性伸缩任务对所述目标任务执行过程中不同时间段下的资源进行资源申请或资源选定，确定完成资源申请或资源选定后的资源为目标资源。

在一些实施例中，所述目标任务执行过程中包括第一时间段、第二时间段和第三时间段，所述目标资源包括第一目标资源、第二目标资源和第三目标资源；所述根据所述弹性伸缩任务对所述目标任务执行过程中不同时间段下的资源进行资源申请或资源选定，确定完成资源申请或资源选定后的资源为目标资源，包括：获取机器学习过程中预先设置的用于执行所述目标任务的初始资源；若在所述第一时间段下所述弹性伸缩任务为资源增加任务，根据所述资源增加任务进行资源申请，得到所述初始资源以外的第一增加资源，并将所述第一增加资源和所述初始资源合并，得到所述目标任务执行过程中所述第一时间段下的所述第一目标资源；若在所述第二时间段下所述弹性伸缩任务为资源减少任务，根据所述资源减少任务进行资源选定，选定得到所述初始资源中的第一剩余资源，并将所述第一剩余资源作为所述目标任务执行过程中所述第二时间段下的所述第二目标资源；若在所述第三时间段下所述弹性伸缩任务为资源保持任务，根据所述资源保持任务将所述初始资源作为所述目标任务执行过程中所述第三时间段下的所述第三目标资源。

在一些实施例中，所述确定完成资源申请或资源选定后的资源为目标资源之后，所述方法还包括；获取所述目标任务执行过程中监控各个所述目标资源得到的状态数据；根据所述状态数据解析得到各个所述目标资源在不同时间段下的任务执行状态；当所述任务执行状态为异常状态，确定出现异常状态的时间段为目标时间段，并根据所述任务执行状态和所述资源约束信息调整所述弹性伸缩任务，得到更新后的所述弹性伸缩任务；根据更新后的所述弹性伸缩任务对所述目标时间段下的资源重新进行资源申请或资源选定，确定重新完成资源申请或资源选定后的资源为更新后的所述目标资源。