[发明专利]基于容器的多实例GPU设备实现人工智能计算的方法在审
申请号: | 202210322702.6 | 申请日: | 2022-03-30 |
公开(公告)号: | CN114637590A | 公开(公告)日: | 2022-06-17 |
发明(设计)人: | 田辉;薛帅;郭玉刚;张志翔 | 申请(专利权)人: | 合肥高维数据技术有限公司 |
主分类号: | G06F9/48 | 分类号: | G06F9/48;G06F9/50;G06T1/20 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 230088 安徽省合肥市高新区*** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明特别涉及一种基于容器的多实例GPU设备实现人工智能计算的方法,包括如下步骤:S100、用户提出创建计算容器的需求并发送给调度中心;S200、调度中心根据用户提出的计算容器的需求,分别向GPU实例化模块和计算实例模块发出申请;S300、GPU实例化模块从GPU实例类型库实时获取可用的GPU实例类型或创建用户发出的GPU实例类型;S400、计算实例模块根据用户发出的人工智能计算请求从人工智能容器镜像库拿到相应的镜像后,创建相应的计算实例。按此方案切割得到的每个GPU实例都有各自的处理器和内存系统,保证各个使用者工作的时延和吞吐量是可预期的,并且通过灵活的资源分配方法,避免出现资源闲置的情况,提高了GPU的使用率。 | ||
搜索关键词: | 基于 容器 实例 gpu 设备 实现 人工智能 计算 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于合肥高维数据技术有限公司,未经合肥高维数据技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202210322702.6/,转载请声明来源钻瓜专利网。