[发明专利]基于可分离的三维残差网络和迁移学习高光谱图像分类方法有效
申请号: | 201910018924.7 | 申请日: | 2019-01-09 |
公开(公告)号: | CN109754017B | 公开(公告)日: | 2022-05-10 |
发明(设计)人: | 李映;姜晔楠;张号逵;呼延烺 | 申请(专利权)人: | 西北工业大学 |
主分类号: | G06V10/764 | 分类号: | G06V10/764;G06V10/82;G06K9/62;G06N3/04 |
代理公司: | 西安凯多思知识产权代理事务所(普通合伙) 61290 | 代理人: | 刘新琼 |
地址: | 710072 *** | 国省代码: | 陕西;61 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 可分离 三维 网络 迁移 学习 光谱 图像 分类 方法 | ||
1.一种基于可分离的三维残差网络和迁移学习高光谱图像分类方法,其特征在于步骤如下:
步骤1:数据预处理:对待处理的高光谱图像数据进行最大最小归一化,最大最小归一化公式如下:
步骤2:数据划分:对于预训练数据集,抽取所有有标注的样本作为预训练数据集;对于目标数据集,每个类别抽取10-20个样本作为训练集,剩余的部分作为测试集;抽取样本的具体做法:对于一个尺寸为M×N×L的三维高光谱图像数据,M,N分别表示高光谱图像的高和宽,L表示数据的波段数,抽取样本时,以待处理像素为中心,抽取S×S×L的数据块作为中心像素的样本数据,S表示邻域大小;
步骤3:构建可分离的三维残差网络模型,包括特征提取和分类两部分:
1)特征提取部分,输入数据先依次通过一个不对称的三维卷积层,归一化层batchnormalization,激励函数ReLU及池化层;再依次经过宽度为32,64,128,256的四个可分离三维残差网络模块进一步提取深度特征;所述的不对称的三维卷积层采用结构不对称的三维卷积核,该卷积核在光谱维尺寸大于空间维尺寸;所述的池化层采用了三维最大池化操作;
2)分类部分,该部分由一个三维的自适应平均池化层和宽度为256的全连接层构成;三维自适应评价池化层会根据输入数据调整池化操作的核的尺寸及步长,能够将任何纬度的输入数据处理成固定尺寸的输出数据;
所述的可分离的三维残差模块的具体结构:从输入端到输出端,右侧主干部分依次包含一个point-wise卷积层,卷积核大小分别为1×3×3和3×1×1的卷积层,以及另一个point-wise卷积层;第一个point-wise卷积层及卷积核大小分别为1×3×3和3×1×1的卷积层后均接着一个batch normaliaztion层和ReLU激励层;第二个point-wise卷积层后边仅有一个batch normalization层,在主干和左侧的分枝结构通过按元素逐元素相加合并后会经过一个ReLU激励层得到模块的输出;左侧分枝结构依次包含一个窗口宽度为3,步长为2的平均池化层和一个point-wise卷积层;
步骤4:训练网络模型:
1)预训练:利用预训练集对模型进行预训练,将训练数据批量地输入到构建好的可分离的三维残差网络中,以标注的类别为指导信息,利用梯度下降算法对网络参数进行训练,直至网络收敛得到预训练模型;训练过程中,每次随机不重复的从训练集里抽取10-20样本为一批训练数据,将该数据输入到网络,抽取特征并计算预测结果,以预测结果与实际结果之间的交叉熵为损失函数,计算网络权值的偏导数,并利用梯度下降算法,更新网络参数;训练过程便利整个训练集一次为一轮训练,整个训练过程进行60轮,前50轮学习率设为0.01,最后10轮,学习率衰减到0.001;整个训练过程中,动量项设为0.9;
2)模型迁移:保留预训练模型的特征提取部分,并根据目标数据集的类别数重新初始化分类部分,得到迁移模型;
3)微调:从目标数据集中提取的训练集对迁移模型进行微调,微调过程同样训练60轮,前50轮特征提取部分学习率设为0.001,分类器部分学习率设为0.01,最后10轮,特征提取部分学习率衰减到0.0001,分类器部分学习率衰减为0.001;整个训练过程中,动量项设为0.9;
步骤5:生成分类结果:利用最终模型,对目标高光谱图像数据集中所有像素进行类别预测,得到分类结果图。
2.根据权利要求1所述的一种基于可分离的三维残差网络和迁移学习高光谱图像分类方法,其特征在于步骤2中的S取27。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于西北工业大学,未经西北工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910018924.7/1.html,转载请声明来源钻瓜专利网。