[发明专利]基于多数据集的特征提取网络的训练及特征提取方法有效
申请号: | 202110298576.0 | 申请日: | 2021-03-19 |
公开(公告)号: | CN112883988B | 公开(公告)日: | 2022-07-01 |
发明(设计)人: | 郁亚峰;毛晓蛟;章勇;曹李军 | 申请(专利权)人: | 苏州科达科技股份有限公司 |
主分类号: | G06V10/46 | 分类号: | G06V10/46;G06V10/774;G06V10/82;G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 北京三聚阳光知识产权代理有限公司 11250 | 代理人: | 张琳琳 |
地址: | 215011 江*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 多数 特征 提取 网络 训练 方法 | ||
本发明涉及图像处理技术领域,具体涉及基于多数据集的特征提取网络的训练及特征提取方法,训练方法包括获取多个样本数据集;依次将任意两个样本数据集中的样本图像输入特征提取网络中,得到与样本图像对应的特征;对所有样本图像对应的特征进行梯度反转,得到与样本图像对应的梯度反转处理结果;基于梯度反转处理结果,确定任意两个样本数据集之间的推土机距离;根据推土机距离对特征提取网络进行训练,以得到目标特征提取网络。在梯度反转处理结果的基础上通过计算任意两个样本数据集之间的推土机距离,由于推土机距离在两个分布没有重叠时仍然能够反映出两个分布之间的远近,从而可以在很大程度上缓解了GRL中出现的梯度弥散现象。
技术领域
本发明涉及图像处理技术领域,具体涉及基于多数据集的特征提取网络的训练及特征提取方法。
背景技术
深度学习技术的兴起大大推动了大规模图像检索的发展,深度学习对数据有极大的需求,数据越丰富取得的效果越好,但是数据的标注需要耗费大量的人力、时间,所以将多个数据集联合训练成了一种增大数据的较为方便的方法。
但是由于不同数据集的背景和应用场景有所区别,所以多数据集联合训练会带来领域偏移的问题,为特征学习带来噪声。现有的一些用于解决领域偏移问题的方法称为领域迁移,例如,基于梯度反转层(gradient reverse layer,简称为GRL)实现领域迁移,大多都是通过域分类器和特征提取器对抗训练,使得提取到的特征不受数据集的影响。
其中,GRL是一种基于对抗训练的方法,每两个数据集的样本图像输入至特征提取器中进行特征提取,并将提取出的特征依次输入梯度反转层以及域分类器,利用JS散度或KL散度衡量两个数据集之间的距离,并基于计算出的距离对域分类器以及特征提取器进行训练。然而,当两个数据集之间的分布差异很大的时候,JS散度或KL散度无法衡量分布之间的差异,同时导致损失很小,不利于特征提取器的优化,这就会导致梯度弥散的现象。
发明内容
有鉴于此,本发明实施例提供了一种基于多数据集的特征提取网络的训练及特征提取方法,以解决GRL训练中出现的梯度弥散的问题。
根据第一方面,本发明实施例提供了一种基于多数据集的特征提取网络的训练方法,包括:
获取多个样本数据集;
依次将任意两个样本数据集中的所有样本图像输入特征提取网络中,得到与所述样本图像对应的特征集;
对所有所述样本图像对应的特征进行梯度反转,得到与所有所述样本图像对应的梯度反转处理结果;
基于所述梯度反转处理结果,确定所述任意两个样本数据集之间的推土机距离;
根据所述推土机距离对所述特征提取网络进行训练,以得到目标特征提取网络。
本发明实施例提供的基于多数据集的特征提取网络的训练方法,在梯度反转处理结果的基础上通过计算任意两个样本数据集之间的推土机距离,并利用计算得到的推土机距离对特征提取网络进行训练,其中,由于推土机距离在两个分布没有重叠时仍然能够反映出两个分布之间的远近,从而可以在很大程度上缓解了GRL中出现的梯度弥散现象。
结合第一方面,在第一方面第一实施方式中,所述基于所述梯度反转处理结果,确定所述任意两个样本数据集之间的推土机距离,包括:
将所述样本图像对应的梯度反转处理结果输入预设网络中,得到与各个所述样本数据集对应的输出数据,所述预设网络与所述任意两个样本数据集对应,用于拟合所述任意两个样本数据集之间的推土机距离;
利用各个所述样本数据集对应的输出数据计算所述推土机距离,得到任意两个所述样本数据集之间的推土机距离。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州科达科技股份有限公司,未经苏州科达科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110298576.0/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种移动DR机器人六轴机械臂
- 下一篇:连接装置及具有其的空调室内机