[发明专利]一种基于3D CutMix-Transformer的高光谱图像分类方法及系统

说明书

本发明公开了一种基于3D CutMix‑Transformer的高光谱图像分类方法及系统，将高光谱数据划分为有标签训练数据集和有标签验证数据集；通过CNN预训练3D CutMix；利用训练数据集进行3D CutMix得到的增强数据训练区域级老师模型和样本级老师模型；利用两个老师模型以及少量有标签数据集共同训练学生模型。本发明利用CNN进行3D CutMix进行预训练，接着采用3D CutMix对原始标签数据集进行数据增强，并优化两个老师模型各自的自监督损失和相互的交叉伪监督损失，使得共同训练的学生模型鲁棒性更好，增强和提高了现有高光谱图像分类技术中小样本下模型的泛化能力和准确率，可用于高光谱图像分类。

技术领域

本发明属于高光谱遥感图像分类技术领域，具体涉及一种基于3D CutMix-Transformer的高光谱图像分类方法及系统。

背景技术

随着人工智能技术的发展，高光谱图像智能分类技术已经深深影响了现代生活的方方面面，其在精准农业、军事、海洋、灾害检测等领域的应用已经越来越广泛。传统遥感图像分析是利用图像空间信息，高光谱图像分析的核心是光谱分析。高光谱的遥感数据是一个光谱图像立方体，如图1所示，其最主要的特点将图像空间维与光谱维信息合为一体，与单波段相比，多出了一维光谱信息。在获取地表空间图像同时，会得到每个像元对应的地物光谱信息。因此，高光谱图像分类较传统的遥感图像分类有信息丰富程度高的优势，这对于智能图像分类来说意味着可以通过高光谱数据学习到更多的特征以提高分类精度。

目前，高光谱图像分类存在标记样本少、模型鲁棒性差的问题。以数据驱动的深度学习方法在少量样本下会导致高光谱图像分类的模型精确度和鲁棒性受数据集影响较大，即现有的方法如CNN(Convolutional Neural Network,卷积神经网络)在训练样本比较少的情况下效率低、鲁棒性差，并且在跨数据集(不同传感器得到)上的效果很差。而以上所提到的问题现今都未得到有效解决。

发明内容

本发明所要解决的技术问题在于针对上述现有技术中的不足，提供一种基于3DCutMix-Transformer的高光谱图像分类方法及系统，使用3D CutMix对高光谱图像数据进行增强来扩增数据集，同时使用一维Transformer模型进行高光谱图像的特征学习，从而提高分类精确度，解决现有高光谱图像分类技术标记样本少、模型鲁棒性差的问题。

本发明采用以下技术方案：

一种基于3D CutMix-Transformer的高光谱图像分类方法，包括以下步骤：

S1、将高光谱数据划分为有标签有标签训练数据集Train和有标签验证数据集Test；

S2、搭建CNN卷积神经网络，将步骤S1划分的有标签训练数据集Train 输入CNN卷积神经网络，构建基于CNN的3D CutMix预训练模型；

S3、基于步骤S2的3D CutMix预训练模型构建高光谱图像分类区域级老师模型M_RL和样本级老师模型M_SL；

S4、通过集成步骤S3构建的高光谱图像分类区域级老师模型M_RL和样本级老师模型M_SL，以及步骤S1划分的有标签训练数据集Train共同训练学生模型 M_S，再将步骤S1划分的有标签验证数据集Test输入训练好的学生模型M_S中，实现基于Transformer老师学生模型的高光谱图像分类。

具体的，步骤S1中，有标签训练数据集Train占高光谱数据的80％，标签验证数据集Test占高光谱数据的20％。

具体的，步骤S2具体为：

S201、搭建CNN卷积神经网络；

S202、将步骤S1划分的有标签训练数据集Train输入CNN卷积神经网络，得到每个像素元的分类结果；