[发明专利]检测模型后处理方法、介质、电子设备和程序产品在审
申请号: | 202210521601.1 | 申请日: | 2022-05-13 |
公开(公告)号: | CN114840719A | 公开(公告)日: | 2022-08-02 |
发明(设计)人: | 章小龙;许礼武;黄敦博;陈柏韬 | 申请(专利权)人: | 安谋科技(中国)有限公司 |
主分类号: | G06F16/901 | 分类号: | G06F16/901;G06F16/903 |
代理公司: | 上海华诚知识产权代理有限公司 31300 | 代理人: | 肖华 |
地址: | 200233 上海市闵行*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 检测 模型 处理 方法 介质 电子设备 程序 产品 | ||
本申请涉及人工智能领域,公开了一种检测模型后处理方法、介质、电子设备和程序产品。所述方法包括:确定处理对象上的候选边界框,并对所述候选边界框实施调整运算;获取所述调整运算对应的边界框数据和区域调整数据,所述区域调整数据包括第一调整数据和第二调整数据;确定与所述第二调整数据关联的查表参数,并从查找表中获取所述查表参数对应的查表结果;将所述边界框数据和所述第一调整数据输入所述第一运算部分,得到第一运算结果;基于所述边界框数据和所述查表结果的线性运算,确定所述第二运算部分的第二运算结果;基于所述第一运算结果和所述第二运算结果的线性运算,确定调整后的边界框数据。如此,可以提高电子设备的运行速度。
技术领域
本申请涉及人工智能领域,特别涉及一种检测模型后处理方法、介质、电子设备和程序产品。
背景技术
随着人工智能(artificial intelligence,AI)的迅速发展,神经网络模型在人工智能领域的应用越来越广泛。深度学习以深度神经网络(Deep Neural Networks,DNN)作为模型,在图像识别、目标检测、增强学习、语义分析等许多人工智能的关键领域取得了十分显著的成果。
由于神经网络是资源密集型算法,其不仅需要大量的计算成本,而且还要消耗大量的内存,并且运行神经网络模型的运算单元,例如神经网络处理器(Neural-NetworkProcessing Unit,NPU),通常为定点运算单元,并没有能够直接实现神经网络模型的各个算子中的求指数函、除法等非线性运算的电路,而是通过迭代求解来实现,需要消耗大量的时间。为提高神经网络模型的运行速度,通常将神经网络模型进行量化,得到定点运算的神经网络模型,再由电子设备来运行。
目前主流的模型量化方案是对主干网络(backbone)模型使用定点量化,在模型后处理部分则采用浮点计算,以保证神经网络模型的推理精度。但是,这种方式仍然需要消耗大量的计算成本,占用NPU的大量硬件资源,影响了电子设备运行神经网络模型的速度。
发明内容
有鉴于此,本申请实施例提供了一种检测模型后处理方法、介质、电子设备和程序产品。
第一方面,本申请实施例提供了一种检测模型后处理方法,应用于电子设备,包括:
确定处理对象上的候选边界框,并对所述候选边界框实施调整运算,所述调整运算包括第一运算部分和第二运算部分,所述第一运算部分包括第一常数除法运算因子,所述第二运算部分包括第二常数除法运算因子与至少一个非线性运算因子;
获取所述调整运算对应的边界框数据和区域调整数据,所述区域调整数据包括第一调整数据和第二调整数据;
确定与所述第二调整数据关联的查表参数,并从查找表中获取所述查表参数对应的查表结果;
将所述边界框数据和所述第一调整数据输入所述第一运算部分,得到第一运算结果;
基于所述边界框数据和所述查表结果的线性运算,确定所述第二运算部分的第二运算结果;
基于所述第一运算结果和所述第二运算结果的线性运算,确定调整后的边界框数据。
可以理解,电子设备在运行检测模型过程中,若检测到对候选边界框的调整运算,例如通过proposal算子对模型生成的锚框进行调整的运算,可以通过确定出与第二调整数据关联的查表参数,基于查表参数从预设的查找表中,获取调整运算中包括第二常数除法运算因子与非线性运算因子的部分的定点数查表结果,再根据查表结果即可确定第二运算部分的定点数运算结果,进而确定整个调整运算的运算结果,而无需进行常数除法运算和复杂的非线性运算,在保证运算精度的同时减少了运算量,降低了电子设备运行检测模型时占用的硬件资源,提高了电子设备运行包括常数除法运算因子和非线性运算因子的调整运算的速度。
在上述第一方面的一种可能实现中,所述将所述边界框数据和所述第一调整数据输入所述第一运算部分,得到第一运算结果,包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于安谋科技(中国)有限公司,未经安谋科技(中国)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210521601.1/2.html,转载请声明来源钻瓜专利网。