[发明专利]基于低置信度样本对比损失的域适应学习方法及系统

说明书

本发明公开了一种基于低置信度样本对比损失的域适应学习方法及系统，使用对比学习的方法，在原有的利用目标域高置信度样本的域适应方法上，充分利用目标域低置信样本，防止图像分类模型因偏向目标域中与源域相近的样本而导致的次优的领域迁移效果；而且，在对比学习中，对原始的图像特征进行重新表示，更好地编码了任务特有的语义信息；此外，对低置信样本使用了跨域混合，并使低置信样本在其中占主导，减小了领域差异，使图像分类模型更好的学习领域不变特征。总的来说，本发明利用了低置信样本，提升了无监督域适应和半监督域适应图像分类的准确率。

技术领域

本发明涉及图像分类领域，尤其涉及一种基于低置信度样本对比损失的域适应学习方法及系统。

背景技术

近几年，使用深度神经网络处理各类机器学习问题卓有成效，然而其优异的性能很大程度上依赖于大量的高质量有标注的数据集。高额的时间成本和人力成本却让人工标注数据集不切实际。传统深度学习方法也因领域偏移问题而无法很好地泛化到新的数据集上。对此，域适应利用在有大量有标注样本的源域上学习的知识来帮助模型在另一个与源域相关但缺乏标注的目标域上的学习，通过减小领域偏移，能够节约标注成本。域适应按目标域样本是否有标注可以分为无监督域适应和半监督域适应。

常用的解决领域偏移的方法是让模型学习领域不变的特征。现有域适应的方法一般是基于域间差异度量，或者是基于对抗。公开号为CN113011456A的中国发明专利申请《用于图像分类的基于类别自适应模型的无监督域适应方法》中，通过自注意模块和交叉注意模块建立领域可转移编码器，实现域内对齐和域间对齐；建立类别自适应解码器，通过类别原型学习和对齐来减少域差异。公开号为CN113011523A的中国发明专利申请《一种基于分布对抗的无监督深度领域适应方法》中，通过在分类器的全连接层进行特征分布匹配，使用MK-MMD（多核最大均值差异）衡量领域间的特征分布差异，同时在卷积层后搭建两层全连接网络作为领域判别器进行领域对抗来减小领域差异。公开号为CN113673555A的中国发明专利申请《一种基于记忆体的无监督域适应图片分类方法》中，使用神经网络模型提取数据集中图片的特征，使用聚类算法辅助记忆体逐类别地存储源域和目标域的特征，训练神经网络，以源域与目标域记忆体的分布的相似性作为条件约束神经网络。公开号为CN113283489A的中国发明专利申请《一种基于联合分布匹配的半监督域适应学习的分类方法》中，通过基于核方法的预设算法度量源对象样本数据和目标对象样本数据分布之间的差异，拉近目标域和源域的联合分布。公开号为CN113378632A的中国发明专利申请《一种基于伪标签优化的无监督域适应行人重识别算法》中，使用了辅助分类器结构，计算辅助分类器结构输出的类别预测向量与主分类器结构输出的类别预测向量之间的KL散度（相对熵）值，获得更加可靠的伪标签。公开号为CN113610105A的中国发明专利申请《基于动态加权学习和元学习的无监督域适应图像分类方法》中，通过对样本加权、动态调整域对齐损失和分类损失的权重、通过元学习计算域对齐损失和分类损失优化网络模型参数，促进域对齐任务和分类任务之间的优化一致性。

但是，现有域适应的方法：一方面，未探索无标签目标域的固有结构；另一方面，使用了一些准则来筛选出高置信度样本，同时完全忽略了低置信样本，由于忽略了低置信样本也就无法反映真实的目标域数据的结构，使图像分类模型偏向于高置信度样本，导致域适应学习后的图像分类模型的分类准确度不佳。

发明内容

本发明的目的是提供一种基于低置信度样本对比损失的域适应学习方法及系统，使用低置信样本进行对比学习，有利于提升域适应学习后图像分类模型的分类准确度。

本发明的目的是通过以下技术方案实现的：

一种基于低置信度样本对比损失的域适应学习方法，包括：

根据设定阈值从目标域图像集合中筛选出低置信度样本集合；