[发明专利]一种轻量化目标检测方法、装置和存储介质在审
| 申请号: | 202310083183.7 | 申请日: | 2023-02-02 |
| 公开(公告)号: | CN116310711A | 公开(公告)日: | 2023-06-23 |
| 发明(设计)人: | 廖平;杜明辉;李浩 | 申请(专利权)人: | 华南理工大学 |
| 主分类号: | G06V10/82 | 分类号: | G06V10/82;G06N3/042;G06N3/0464;G06N3/048;G06N3/082;G06N3/09 |
| 代理公司: | 广州嘉权专利商标事务所有限公司 44205 | 代理人: | 郑宏谋 |
| 地址: | 510641 广*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 量化 目标 检测 方法 装置 存储 介质 | ||
1.一种轻量化目标检测方法,其特征在于,包括以下步骤:
设计轻量化模块,将所述轻量化模块插入预设的目标检测模型中,或者替换预设的目标检测模型中的模块;
重新训练目标检测模型,在模型训练拟合后,对目标检测模型进行通道剪枝,以删除冗余的通道;
对通道剪枝后的目标检测模型进行知识蒸馏;
对目标检测模型进行量化操作,以降低模型的大小和运算量。
2.根据权利要求1所述的一种轻量化目标检测方法,其特征在于,所述轻量化模块包括Ghost模块和DFC注意力模块;
所述轻量化模块分成两个分支,其中一个分支通过第一卷积单元进行卷积计算;另一个分支通过第二卷积单元进行卷积计算,并将该第二卷积单元的输出作为Ghost模块和第一DFC注意力模块的输入,将该Ghost模块的输出和第一DFC注意力模块的输出进行相乘处理后,作为第二Ghost模块的输入,以进一步提取特征;将所述第二Ghost模块的输出和所述第二卷积单元的输出进行相加处理后,与所述第一卷积单元的输出进行拼接,并输入第三卷积单元进行卷积计算。
3.根据权利要求2所述的一种轻量化目标检测方法,其特征在于,所述Ghost模块包括第五卷积单元、深度可分离卷积单元和拼接单元;
其中,输入数据经过所述第五卷积单元进行卷积计算,所述第五卷积单元的输出作为所述深度可分离卷积单元的输入,所述深度可分离卷积单元的输出与所述第五卷积单元的输出进行拼接后,作为所述Ghost模块的输出。
4.根据权利要求2所述的一种轻量化目标检测方法,其特征在于,所述DFC注意力模块包括依次连接的下采样单元、1×1卷积单元、水平全连接层、垂直全连接层以及sigmoid函数单元;
所述DFC注意力模块的运算操作如下:
式中,和是权重;H为特征图的长,W为特征图的宽;zh′w是输入特征图。
5.根据权利要求1所述的一种轻量化目标检测方法,其特征在于,所述对目标检测模型进行通道剪枝,包括:
对目标检测模型进行稀疏化训练,以使每一层通道的缩放因子γ尽可能的接近0;
根据缩放因子γ判断通道的重要性,裁去符合预设条件的通道,得到通道剪枝后的模型。
6.根据权利要求1所述的一种轻量化目标检测方法,其特征在于,知识蒸馏将大模型的输出作为一个软标签,和数据的硬标签一起送入小模型中训练,以提高小模型的性能;
知识蒸馏中采用的损失函数如下:
其中,是背景区域的Loss函数:
是分类Loss函数:
是回归框Loss函数:
式中,分别是背景真实标签、背景预测值和教师网络背景区域预测值;分别是分类真实标签、分类预测值和教师网络类别预测值;分别是回归框真实标签、回归框预测值和教师网络回归框预测值;是教师网络背景区域预测值;λD是平衡两个损失函数的参数;fobj()表示背景区域Loss函数,fcl()表示分类Loss函数,fbb()表示回归框Loss函数。
7.根据权利要求1所述的一种轻量化目标检测方法,其特征在于,所述对目标检测模型进行量化操作,包括:
选取子集,在原来训练好的模型中进行推理,收集每一层的特征图,作为激活值;
根据激活值进行分组,对于每一组,针对不同的阈值T1和T2,计算量化后与量化前的KL散度和Wasserstein距离,选取结果最小的阈值T作为最终结果。
8.根据权利要求7所述的一种轻量化目标检测方法,其特征在于,所述Wasserstein距离的计算公式如下:
式中,Π(R,P2)是两个分布所有可能的联合分布的集合;E(x,y)-γ表示在某种联合分布下,样本对距离的期望值;||x-y||表示样本距离。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华南理工大学,未经华南理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310083183.7/1.html,转载请声明来源钻瓜专利网。





