[发明专利]一种基于Transformer和融合注意力机制的目标检测方法及系统在审

专利信息
申请号: 202211475396.6 申请日: 2022-11-23
公开(公告)号: CN115908772A 公开(公告)日: 2023-04-04
发明(设计)人: 赵志刚;张兆虔;耿丽婷;霍吉东;李传涛;王春晓;张俭;李响 申请(专利权)人: 山东省计算中心(国家超级计算济南中心)
主分类号: G06V10/20 分类号: G06V10/20;G06V10/42;G06V10/44;G06V10/774;G06V10/80;G06V10/82;G06N3/0464;G06N3/048;G06N3/08
代理公司: 济南圣达知识产权代理有限公司 37221 代理人: 马海波
地址: 250014 山*** 国省代码: 山东;37
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 基于 transformer 融合 注意力 机制 目标 检测 方法 系统
【说明书】:

发明提出了一种基于Transformer和融合注意力机制的目标检测方法,包括:获取待检测图像进行预处理;将预处理后的待检测图像输入至训练好的目标检测模型中,输出检测结果;其中,所述目标检测模型包括Swin Transformer模块、注意力融合模块和检测模块,所述Swin Transformer模块用于提取待检测图像的全局特征,所述注意力融合模块用于局部特征提取,并将全局特征和局部特征采用跨层级联的方式进行融合,所述检测模块用于根据融合后的特征输出检测结果。融合局部感受野与Transformer的全局信息,以进一步提升局部特征与全局信息融合的能力,增强低信噪比目标的检测效果。

技术领域

本发明属于深度学习计算机视觉相关技术领域,尤其涉及一种基于Transformer和融合注意力机制的目标检测方法及系统。

背景技术

本部分的陈述仅仅是提供了与本发明相关的背景技术信息,不必然构成在先技术。

随着近两年深度学习技术的发展,越来越精良的模型结构应运而生,2020年以前,图像视觉领域大多采用卷积神经网络(CNN)用于图像特征提取,卷积神经网络采用分层方式进行特征表示,相较于自然语言处理(NLP)采用序列进行特征表示,CNN需要逐层积累,由浅入深提取更高级的语义信息特征。即便如此CNN所获取的实际感受野仍远小于理论感受野,不利于特征信息的捕获,反而带来了计算量的剧增。为此不少学者开始尝试将NLP领域应用的Transformer应用于计算机视觉(CV)领域。2020年Google提出ViT模型验证了Transformer模型在图像分类领域的有效性。由此,基于Transformer的CV时代得以展开。Swin Transformer模型提出于CVPR2021,该模型通过shifted windows来计算,针对视觉实体的尺度变换以及图像高分辨问题,借助Shifted Windows Multi-Head Self-Attention(SW-MSA)概念,实现信息在相邻窗口间的传递,加强上下文联系,Swin Transformer在性能上展现了较好的优势,但其更倾向于获取图像的全局特征,对于局部信息的提取能力不强,而目标检测任务中存在较多低信噪比的目标特征,为此存在局部边缘纹理等特征信息提取能力弱的情况。

发明内容

为克服上述现有技术的不足,本发明提供了一种基于Transformer和融合注意力机制的目标检测方法及系统,采用Swin Transformer技术作为骨干网络应用于目标检测任务中。同时提出AGFF方法融合局部感受野与Transformer的全局信息,以进一步提升局部特征与全局信息融合的能力,增强低信噪比目标的检测效果。同时采用YOLOX检测器完成检测任务。

为实现上述目的,本发明的一个或多个实施例提供了如下技术方案:一种基于Transformer和融合注意力机制的目标检测方法,包括:

获取待检测图像进行预处理;

将预处理后的待检测图像输入至训练好的目标检测模型中,输出检测结果;

其中,所述目标检测模型包括Swin Transformer模块、注意力融合模块和检测模块,所述Swin Transformer模块用于提取待检测图像的全局特征,所述注意力融合模块用于局部特征提取,并将全局特征和局部特征采用跨层级联的方式进行融合,所述检测模块用于根据融合后的特征输出检测结果。

本发明的第二个方面提供一种基于Transformer和融合注意力机制的目标检测系统,包括:

图像获取模块:获取待检测图像进行预处理;

目标检测模块:将预处理后的待检测图像输入至训练好的目标检测模型中,输出检测结果;

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于山东省计算中心(国家超级计算济南中心),未经山东省计算中心(国家超级计算济南中心)许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202211475396.6/2.html,转载请声明来源钻瓜专利网。

同类专利
专利分类
×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top