[发明专利]基于LRU策略最大化提升显存利用率的模型加载方法在审
| 申请号： | 202111001401.5 | 申请日： | 2021-08-30 |
| 公开（公告）号： | CN113674137A | 公开（公告）日： | 2021-11-19 |
| 发明（设计）人： | 钟靖;吴小炎;吴名朝 | 申请（专利权）人： | 浩鲸云计算科技股份有限公司 |
| 主分类号： | G06T1/20 | 分类号： | G06T1/20;G06K9/00;G06F9/50 |
| 代理公司： | 南京中盟科创知识产权代理事务所(特殊普通合伙) 32279 | 代理人： | 孙丽君 |
| 地址： | 210000 江苏省南*** | 国省代码： | 江苏;32 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了基于LRU策略最大化提升显存利用率的模型加载方法，该方法包括以下步骤：构建与部署人脸识别、人像对比、人体分析三个模型并配置实例；启动定时任务，每相隔10分钟获取该段时间内GPU的实时利用率，并计算该时间段内的平均GPU利用率；通过最优资源调度策略调度计算滑动平均显存使用率；根据该段时间内的数据信息，通过最优资源调度策略预测得到下一段时间所需的实例数量；根据模型在下一段时间所需的实例数量与模型已使用的实例数量对实例数量进行调整。有益效果：通过LRU调度策略，使模型动态启停，解决了多模型共享显存低利用率的痛点，提升显存的利用率，进而节约资源。 | ||
| 搜索关键词： | 基于 lru 策略 最大化 提升 显存 利用率 模型 加载 方法 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于浩鲸云计算科技股份有限公司，未经浩鲸云计算科技股份有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202111001401.5/，转载请声明来源钻瓜专利网。
- 上一篇：一种三维重建方法及系统
- 下一篇：一种酶解生活厨余垃圾的垃圾处理方法
