[发明专利]自适应推理加速方法、装置、计算机设备和存储介质有效
申请号: | 202210928200.8 | 申请日: | 2022-08-03 |
公开(公告)号: | CN114997401B | 公开(公告)日: | 2022-11-04 |
发明(设计)人: | 占望鹏;司超;袁易之;朱新宇;肖博文;王潇 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06N5/04 | 分类号: | G06N5/04;G06N3/04;G06N3/08 |
代理公司: | 华进联合专利商标代理有限公司 44224 | 代理人: | 李文渊 |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请涉及一种自适应推理加速方法、装置、计算机设备、存储介质和计算机程序产品。所述方法可应用于人工智能领域和智能交通领域,包括:确定第一网络模型的推理结果;将第二网络模型在各推理加速框架上进行推理加速,得到推理耗时和推理结果;基于推理结果依次确定第二网络模型在各推理加速框架上推理的误差;将满足误差条件的误差对应的推理加速框架作为候选推理加速框架,并基于第二网络模型在候选推理加速框架的推理耗时和目标性能指标值,在候选推理加速框架中选取目标推理加速框架;将第二网络模型转换为目标推理加速框架对应的目标网络模型。采用本方法能够快速获得提升推理速度的网络模型,进而大大降低部署时间。 | ||
搜索关键词: | 自适应 推理 加速 方法 装置 计算机 设备 存储 介质 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202210928200.8/,转载请声明来源钻瓜专利网。