[发明专利]一种NMS函数的量化方法、电子设备及介质在审
申请号: | 202210227316.9 | 申请日: | 2022-03-08 |
公开(公告)号: | CN114611666A | 公开(公告)日: | 2022-06-10 |
发明(设计)人: | 章小龙;许礼武;周发 | 申请(专利权)人: | 安谋科技(中国)有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06N3/063 |
代理公司: | 上海华诚知识产权代理有限公司 31300 | 代理人: | 肖华 |
地址: | 200233 上海市闵行*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请涉及神经网络模型量化技术领域,公开了一种NMS函数的量化方法、电子设备及介质。其中,NMS函数的量化方法包括:获取需要进行交并比计算的第一目标检测框的第一面积数值和第二目标检测框的第二面积数值;将第一面积数值的后第一预设位数的二进制数删除,得到第一目标检测框的第一近似面积数值,并将第二面积数值的后第二预设位数的二进制数删除,得到第二目标检测框的第二近似面积数值;基于第一近似面积数值和第二近似面积数值进行第一目标检测框和第二目标检测框的交并比计算,得到第一目标检测框和第二目标检测框的交并比计算结果。基于上述方案,能够有效减小包含NMS函数的模型的运行内存,提高包含NMS函数的模型的推理速度。 | ||
搜索关键词: | 一种 nms 函数 量化 方法 电子设备 介质 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于安谋科技(中国)有限公司,未经安谋科技(中国)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202210227316.9/,转载请声明来源钻瓜专利网。