[发明专利]一种级联骨干的金具检测模型及剪枝方法在审

专利信息
申请号: 202111438754.1 申请日: 2021-11-29
公开(公告)号: CN114078219A 公开(公告)日: 2022-02-22
发明(设计)人: 朱瑞凯;卢自强;孙凯;李德生;詹涛;焦仙宏;申洲;要粮安;王春;杨爱晟;杜娟;付兴旺;谢强;宋宏图;张珂;张琼瑞;张博;杜衡 申请(专利权)人: 国网山西省电力公司晋中供电公司;国网山西省电力公司输电检修分公司
主分类号: G06V20/17 分类号: G06V20/17;G06V10/25;G06V10/766;G06V10/774;G06V10/82;G06K9/62;G06N3/04;G06N3/08
代理公司: 太原科卫专利事务所(普通合伙) 14100 代理人: 杨文艳
地址: 030600 山*** 国省代码: 山西;14
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 级联 骨干 检测 模型 剪枝 方法
【权利要求书】:

1.一种级联骨干的金具检测模型及剪枝方法,其特征在于,包括以下步骤:

S1,构建金具数据集,得到不同类别的金具图像;

S2,借鉴CBNet复合主干网络结构,错级连接MobileNetV3与ResNet18,提高特征提取能力;

S3,引入高效通道注意力模块,对主干网络两个分支的输出进行优化,增强有效特征;

S4,融合无锚网络思想,通过目标中心点、中心点偏移量、目标尺度三个预测分支进行回归检测。

S5,设计基于稀疏化训练的模型剪枝方法,减少模型参数量和计算量,训练模型得出结果。

2.根据权利要求1所述的一种级联骨干的金具检测模型及剪枝方法,其特征在于,所述步骤S1中,构建金具数据集,得到不同类别的金具图像,具体包括:

将航拍图像中输电线路及杆塔上包含金具的区域裁剪下来,进行清洗,选取其中图像清晰、含有金具种类和数目较多的图像。

3.根据权利要求1所述的一种级联骨干的金具检测模型及剪枝方法,其特征在于,所述步骤S2中,借鉴CBNet复合主干网络结构,错级连接MobileNetV3与ResNet18,提高特征提取能力,具体包括:

首先,引入CBNet复合骨干网络思想,通过融合双支主干网络的高层和低层特征进行互补,提高检测精度和速度。

其次,主干网络采用轻量级网络MobileNetV3,并新增一个并行分支主干ResNet-18。ResNet-18分支网络无下采样操作以保证尺度不变性,减少特征丢失。同时网络层数的加深增强了网络学习困难样本的能力。

然后,选取MobileNetV3的第二层、第三层、第五层分别输出4倍、8倍、16倍下采样三个特征,用于和ResNet-18残差块输出的特征进行堆叠:第一个残差块输出的特征与MobileNetV3的输入特征进行堆叠;第二个残差块的输出的特征与MobileNetV3的第一个输出特征进行堆叠,以此类推。

最后,将主干网络与分支网络最后的输出特征进行通道叠加。复合骨干结构所占内存远低于原模型采用的Hourglass和DLA主干结构,提升了训练速度和检测精度。

4.根据权利要求1所述的一种级联骨干的金具检测模型及剪枝方法,其特征在于,所述步骤S4中,融合无锚网络思想,通过中心点、中心点偏移量、目标尺度三个预测分支进行回归检测,具体包括:

首先,借鉴典型无锚网络CenterNet利用关键点定位待检测目标的思想,将金具的边界框中心建模为一个点对象,生成关键点热力图,提取所有金具的局部峰值点,预测每一个像素点是否为中心点。具体做法是将热力图上的所有响应点与其连接的8个相邻点进行比较,如果该点响应值大于或等于其8个相邻点的值,则保留该点,否则忽略该点,最后保留满足要求的前100个峰值点。

然后,通过检测网络进行预测。检测网络包含3个分支:中心点预测分支、中心点偏移量分支以及目标尺度分支。中心点预测分支用来估计关键点;偏移量分支用来预测关键点偏置,表示标注信息从输入图像映射到输出特征图时由于取正操作带来的坐标误差;目标尺度分支通过预测的目标框宽高和中心点位置得出目标框的位置坐标和大小。

5.根据权利要求1所述的一种级联骨干的金具检测模型及剪枝方法,其特征在于,所述步骤S5中,设计基于稀疏化训练的模型剪枝方法,减少模型参数量和计算量,训练模型得出结果,具体包括:

首先,采用主干网络MobileNetV3及ResNet网络单元中BN层的γ尺度因子作为评判剪枝与否的标准,并定义一个百分数形式的全局阈值作为剪枝的引导参数。当γ尺度因子小于设定的阈值时,对其所在通道的输入输出连接以及相关的权重进行裁剪,将冗余的连接从网络中彻底移除,实现通道级别的结构性剪枝。BN层的变换为:

式中,Zin和Zout表示BN层的输入和输出;B表示mini-batch;μB和σB分别为B的均值和标准差;γ和β为BN层可训练的超参数。

在训练期间,为了识别γ的大小,通过对BN层的γ系数施加L1正则约束,诱导模型朝着结构性稀疏的方向调整参数,自动识别冗余通道。剪枝操作总的损失函数为:

式中,(x,y)表示输入和输出;w表示权重;首个累加表示正常的网络训练下的损失;第二个累加表示γ的L1正则,其中g(s)=|s|;λ为新引入的超参数。

其次,通过通道剪枝对模型进行进一步修剪。定义全局剪枝率λ,代表需要剪枝的通道数占总通道数的比例,λ对应γ的阈值为γ1;此外为防止有用层被全部剪掉,另外设置一个保护阈值β,表示每层中至少需要保留通道比例,β对应γ的阈值为γ2。根据分析稀疏训练后γ的分布,按30%的比例设置参数量剪枝率并迭代执行稀疏、通道剪枝、微调的过程,使得由于剪枝带来的精度下降可以通过微调补偿回来,从而得到精度损失较小的轻量化模型。

最后,对每一次剪枝后的网络进行微调,补偿剪枝带来的少量精度损失。

综上,具体剪枝步骤为:

1)根据金具数据集制定相应的网络模型并初始化;

2)对模型进行稀疏化训练,找到γ尺度因子较小的通道进行剪枝;

3)对γ<γ1且γ<γ2的通道,进行通道剪枝;

4)对迭代执行稀疏、通道剪枝后的模型进行fine-tune;

5)重复步骤1-4;

6)完成剪枝。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于国网山西省电力公司晋中供电公司;国网山西省电力公司输电检修分公司,未经国网山西省电力公司晋中供电公司;国网山西省电力公司输电检修分公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202111438754.1/1.html,转载请声明来源钻瓜专利网。

同类专利
专利分类
×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top