[发明专利]一种基于多头自注意力模块的遥感图像分类系统及方法在审
申请号: | 202110609315.6 | 申请日: | 2021-06-01 |
公开(公告)号: | CN113344070A | 公开(公告)日: | 2021-09-03 |
发明(设计)人: | 业巧林;范习健;李彦甫;母园 | 申请(专利权)人: | 南京林业大学 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 南京思拓知识产权代理事务所(普通合伙) 32288 | 代理人: | 苗建 |
地址: | 210037 江*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 多头 注意力 模块 遥感 图像 分类 系统 方法 | ||
本发明公开了一种基于多头自注意力模块的遥感图像分类系统及方法,分类模型的框架网络主干采用的是RestNet50卷积神经网络,分类模型将RestNet50卷积神经网络最后三个瓶颈层模块替换为多头自注意力模块;模型包括:缩放点积注意力模块,用于将输入分类模型的检测图像参数进行运缩放点积注意力处理;多头自注意力模块,用于感知检测图像中可识别度最高的区域;第一归一化及残差连接模块、第二归一化及残差连接模块,用于保持检测图像参数在输入分类模型后与输入分类模型前维度上的一致,降低在分类模型网络中发生梯度消失的可能;全连接模块,用于对检测图像进行特征提取。
技术领域
本发明涉及图像识别技术领域,具体为一种基于多头自注意力模块的遥感图像分类系统及方法。
背景技术
在实际生产生活中,遥感图像被应用于诸多领域,其中,在城市规划、森林状态评估、生态环境监测等方面,遥感图像都起着至关重要的作用;这些应用的主要目的是通过对采集到的遥感图像特征进行提取和分析,准确判断出图像中所包含的主要目标类别,如建筑、森林或湿地等。目前,实现遥感图像分类的主要手段主要是利用计算机技术模拟生物对视觉的感知能力,对遥感图像中每个像素根据特征的异同,如光谱亮度、空间结构特征等,按照某种流程或规则对属性进行自动判别和分类,以实现提取图像中包含的地物信息的目标。在对遥感图像分类早期的研究当中,研究者主要选择手工提取图像特征的方法分类遥感图像,但伴随图像采集技术的不断发展,获取遥感图像的方法逐渐具有采集速度快、采集信息量巨大等特点,且由于人工提取出的图像特征所包含的信息量小、有效性低等特点,传统的手工特征提取方法难以满足遥感图像广泛应用的需求;随着研究的不断深入,研究者开始尝试融合不同的人工提取方法提取出的图像特征,其中,常用的图像特征提取方法有HOG、ORB、SIFT等;在结合不同人工提取的图像特征的过程中,需要不停地调整每种提取方法提取到的图像特征的权值参数大小,以得到更优的效果。虽然给定的权值参数大小在某些遥感图像分类上取得较高的精度,但在规模很大的数据集中使用该方法时十分困难。因此,为解决传统的图像分类方法在特征提取分析中存在的速度慢和精度低的问题,模糊聚类分类法和机器学习等方法被综合应用到对图像特征提取和分析方法中。
近年来,深度学习技术被广泛应用在计算机视觉领域,其中,深度卷积神经网络CNN使得图像分类效率和准确度具有显著的提高。不同于传统的分类方法,CNN具有局部感知和权值共享的特点。局部感知即CNN每层中的每个神经元只需要从当前层输入图像中提取局部的像素特征,在网络的深层中将这些局部信息合并,从而得到图像的所有特征。目前,基于CNN的图像识别分类算法在计算机视觉领域中取得了重大突破。
为了在已有分类方法基础上提高遥感图像的分类效率和精度,本发明提出了一种基于多头自注意力模块的遥感图像分类系统及方法;鉴于已有的卷积神经网络在遥感图像分类的精度较高,本系统框架选择使用ResNet50作为主干网络,并将ResNet50最后三个瓶颈层的中间层替换为多头自注意力模块,本发明与目前已有的遥感图像分类系统相比,在精度上有明显提高,并且减少了框架的参数,提高了分类的速度。
发明内容
本发明的目的在于提供一种基于多头自注意力模块的遥感图像分类系统及方法,以解决上述背景技术中提出的问题。
为了解决上述技术问题,本发明提供如下技术方案:一种基于多头自注意力模块的遥感图像分类方法,其特征在于,分类方法的工作流程如下:
S100:上传检测图像,对检测图像的图像参数进行提取并进行缩放点积注意力处理;得到第一处理结果;
S200:将步骤S100得到的诸多个第一处理结果进行连接处理,得到连接处理结果;
S300:将连接处理结果进行一次归一化处理和残差连接,得到第二处理结果;
S400:将第二处理结果进行特征信息提取;
S500:将步骤S400得到的结果进行第二次归一化处理和残差连接得到最终的图像分类结果;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京林业大学,未经南京林业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110609315.6/2.html,转载请声明来源钻瓜专利网。