[发明专利]人工智能推理方法、装置、设备及存储介质在审
| 申请号： | 202111097277.7 | 申请日： | 2021-09-17 |
| 公开（公告）号： | CN113780565A | 公开（公告）日： | 2021-12-10 |
| 发明（设计）人： | 贾东风;程力行 | 申请（专利权）人： | 奇酷软件（深圳）有限公司 |
| 主分类号： | G06N5/04 | 分类号： | G06N5/04;G06F9/50 |
| 代理公司： | 深圳市恒程创新知识产权代理有限公司 44542 | 代理人： | 巩莉 |
| 地址： | 518000 广东省深圳市南山区*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明属于人工智能技术领域，公开了一种人工智能推理方法、装置、设备及存储介质。该方法包括：基于场景线程获取帧数据，确定帧数据对应的目标算法模型；基于目标算法模型对应的目标缓冲实例将帧数据存储至目标缓冲实例对应的存储区域；在检测到当前存储区域中的数据满足预设要求时，基于当前缓冲实例对应的调度线程从当前存储区域中取出待推理数据；将待推理数据合成批次数据；根据当前缓冲实例对批次数据进行推理。通过上述方式，对多个场景对应的帧数据进行调度推理，将多个场景对应的同一算法模型的帧数据合成批次数据，进行批量推理，提高硬件的利用能力，减少场景排队引起的推理堵塞，提高了推理效率，减小了推理耗时。 | ||
| 搜索关键词： | 人工智能 推理 方法 装置 设备 存储 介质 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于奇酷软件（深圳）有限公司，未经奇酷软件（深圳）有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202111097277.7/，转载请声明来源钻瓜专利网。
