[发明专利]模型推理方法、设备、存储介质和程序产品在审
申请号: | 202211172258.0 | 申请日: | 2022-09-26 |
公开(公告)号: | CN116757284A | 公开(公告)日: | 2023-09-15 |
发明(设计)人: | 伍国林;王哲;陆二伟;廖建文 | 申请(专利权)人: | 荣耀终端有限公司 |
主分类号: | G06N5/04 | 分类号: | G06N5/04 |
代理公司: | 北京同立钧成知识产权代理有限公司 11205 | 代理人: | 刘芳;臧建明 |
地址: | 518040 广东省深圳市福田区香蜜湖街道*** | 国省代码: | 广东;44 |
权利要求书: | 暂无信息 | 说明书: | 暂无信息 |
摘要: | 本申请实施例提供的一种模型推理方法、设备、存储介质和程序产品,该方法包括:获取待处理模型和输入数据,其中,所述待处理模型的每个算子被配置有初始化内存空间,所述初始化内存空间与所述待处理模型允许的最大输入数据维度相适应;根据输入数据的数据维度和所述最大输入数据维度,确定所述待处理模型的每个算子的输出维度;基于所述输入数据、所述每个算子的输出维度和所述初始化内存空间,对所述待处理模型进行推理,输出模型推理结果。本申请可以减少模型推理时延,提高模型推理效率。 | ||
搜索关键词: | 模型 推理 方法 设备 存储 介质 程序 产品 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于荣耀终端有限公司,未经荣耀终端有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202211172258.0/,转载请声明来源钻瓜专利网。