[发明专利]一种基于机器学习的显卡任务资源的调度方法及系统有效
申请号: | 202310060601.0 | 申请日: | 2023-01-18 |
公开(公告)号: | CN115827206B | 公开(公告)日: | 2023-05-05 |
发明(设计)人: | 鲁定一;傅豪;郭兆龙;董锦芝;刘锐;付文杰;李奕飞 | 申请(专利权)人: | 太极计算机股份有限公司 |
主分类号: | G06F9/48 | 分类号: | G06F9/48;G06F9/50;G06N20/00 |
代理公司: | 北京睿博行远知识产权代理有限公司 11297 | 代理人: | 杨丽娟 |
地址: | 100089 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 机器 学习 显卡 任务 资源 调度 方法 系统 | ||
本发明提供了一种基于机器学习的显卡任务资源的调度方法及系统,其方法包括:确定同时刻在线的显卡数量以及针对每个在线显卡的请求数量,同时,确定每个在线显卡的资源集以及与在线显卡匹配的资源集中每个资源的任务响应时间;基于机器学习模型分析同个在线显卡在同时刻的请求数量、资源集以及任务响应时间,输出同个在线显卡的冲突事件;从除同个在线显卡外的剩余显卡中获取基于冲突事件的可调度单元,并基于可调度单元进行冲突任务的分配,实现显卡资源调度。通过对显卡本身的请求数量、资源集以及任务响应时间进行分析,来确定可能存在的冲突事件,并对冲突事件进行冲突任务分配,实现资源调度,有效地提高资源调度的效率。
技术领域
本发明涉及机器学习技术领域,特别涉及一种基于机器学习的显卡任务资源的调度方法及系统。
背景技术
显卡(Video card、Display card、Graphics card、Video adapter)是个人计算机基础的组成部分之一,将计算机系统需要的显示信息进行转换驱动显示器,并向显示器提供逐行或隔行扫描信号,控制显示器的正确显示,是连接显示器和个人计算机主板的重要组件,是“人机”的重要设备之一,其内置的并行计算能力现阶段也用于深度学习等运算。
当前机器学习训练中,使用显卡提供算力已经非常普遍,由于显卡本身就会存在各种运算资源、学习资源,如果对显卡本身情况掌握不清楚的情况下,回导致后续资源调取的效率降低。
因此,本发明提出一种基于机器学习的显卡任务资源的调度方法及系统。
发明内容
本发明提供一种基于机器学习的显卡任务资源的调度方法及系统,用以通过对显卡本身的请求数量、资源集以及任务响应时间进行分析,来确定可能存在的冲突事件,并对冲突事件进行冲突任务分配,实现资源调度,有效地提高资源调度的效率。
本发明提供一种基于机器学习的显卡任务资源的调度方法,包括:
步骤1:确定同时刻在线的显卡数量以及针对每个在线显卡的请求数量,同时,确定每个在线显卡的资源集以及与在线显卡匹配的资源集中每个资源的任务响应时间;
步骤2:基于机器学习模型分析同个在线显卡在同时刻的请求数量、资源集以及任务响应时间,输出所述同个在线显卡的冲突事件;
步骤3:从除所述同个在线显卡外的剩余显卡中获取基于所述冲突事件的可调度单元,并基于所述可调度单元进行冲突任务的分配,实现显卡资源调度。
优选的,确定同时刻在线的显卡数量以及针对每个在线显卡的请求数量,包括:
获取针对同个在线显卡在同时刻下的请求表;
统计所述请求表中的请求数量。
优选的,确定每个在线显卡的资源集以及与在线显卡匹配的资源集中每个资源的任务响应时间,包括:
确定每个在线显卡的当前已有资源、预约传输资源、剩余可保存资源,其中,所述当前已有资源、预约传输资源、剩余可保存资源即为资源集;
分析每个在线显卡的显卡类型,并从历史数据库中调取与所述显卡类型匹配的资源分配情况;
对所述资源分配情况进行分配切分,得到针对不同资源的任务响应时间。
优选的,对所述资源分配情况进行分配切分,得到针对不同资源的任务响应时间,包括:
对所述资源分配情况进行时间点分配,构建历史时刻分配表,其中,所述历史时刻分配表包括不同历史时刻下的历史分配资源;
根据所述历史时刻分配表,建立历史分配数组;
对所述历史分配数组进行同类型资源分配,得到历史分配序列,并得到针对同类型资源的第一响应时间;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于太极计算机股份有限公司,未经太极计算机股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310060601.0/2.html,转载请声明来源钻瓜专利网。