[发明专利]一种结合深度特征与对比学习的自监督信息提取方法

说明书

本发明涉及一种结合深度特征与对比学习的自监督信息提取方法，包括：第一步：将无标注数据的影像x‘与标注过的影像x经过特征编码，分别输入到代理任务与最终的目标任务中，分别进行训练。第二步：在代理任务训练时，固定分割任务的网络结构参数，将x‘编码得到的特征，结合x‘经过分割任务特征提取层编码的特征，以神经网络结构模拟无标注数据非监督提取，训练一遍无标注数据集；第三步：分割任务训练时，固定代理任务的网络结构参数，将x编码得到的特征，结合代理任务经过特征提取层编码的特征，训练一遍整个数据集；第四步：在以上的训练中，不断地迭代训练；并且在将两个特征提取结构提取的特征进行整合时，实现特征迁移的效果。

技术领域

本发明涉及计算机学习领域，尤其是一种结合深度特征与对比学习的自监督信息提取方法。

背景技术

近几年来，深度学习快速发展，相关方法快速应用于各行各业，但其中依然有相当的问题存在，模型泛化能力差与大规模的训练样本依赖的是深度学习应用中最为显著的两个问题。遥感应用的特点决定了大多数情况都是需要在一个宏观的范围内进行信息提取的实验，如果每次更改研究区域，就需要重新标注样本集，将为其应用带来极大的标注成本。而数据集标注困难几乎已经成为了一个学界的共识，也正是此类的困境为深度学习的应用带来了高昂的成本，使得基于深度学习的遥感解译应用难以符合实际应用需要。因此，一种不那么依赖于人工标注的深度学习解译技术就显得至关重要。

与此同时，遥感卫星持续运行，每时每刻都会带来海量的数据可以利用，但是，常常我们能加以利用都只是少数标注的数据，而对于大量的无标注数据缺乏利用。

发明内容

为了解决上述技术问题，本发明提出了一种结合深度特征与对比学习的自监督信息提取方法。在训练时，基于强化学习的思想，通过在无监督学习和有监督学习之间构建通道，相互学习，促进网络提取效果。

本发明的技术方案为：一种结合深度特征与对比学习的自监督信息提取方法，包括：

第一步：将无标注数据的影像x‘与标注过的影像x经过特征编码，分别输入到代理任务与最终的目标任务中，分别进行训练；

第二步：在代理任务训练时，固定分割任务的网络结构参数，将x‘编码得到的特征，结合x‘经过分割任务特征提取层编码的特征，以神经网络结构模拟无标注数据非监督提取，训练一遍无标注数据集；

第三步：分割任务训练时，则固定代理任务的网络结构参数，将x编码得到的特征，结合代理任务经过特征提取层编码的特征，训练一遍整个数据集；

第四步：在以上的训练中，不断地迭代训练，在其中一个网络结构训练后，将其中特征提取网络部分参数固定，进行另一个网路结构的训练，以此迭代循环；并且在将两个特征提取结构提取的特征进行整合时，采用通道注意力机制，为两个特征提取结构部分输出的特征向量设定一个权重，以此对输出得到的特征向量进行加权整合，以这种交替的形式实现特征迁移的效果。

有益效果：

本发明的技术方案相对于传统的方法，具有如下优点：

1、针对传统监督学习中样本不足的问题，运用自监督学习，可将常规中闲置的无标注样本利用起来，在样本有限的情况下能达到更好地训练效果。

2、本发明基于强化学习的思想，在自监督学习的代理任务和目标任务之间建立通道，使其达到相互促进，相互学习的效果。

附图说明

图1：自监督学习流程示意图；

图2：对比学习网络结构训练过程图；

图3：图像修复过程图。

具体实施方式