[发明专利]基于元学习的标签噪声监测方法在审
| 申请号: | 202210357708.7 | 申请日: | 2022-04-06 |
| 公开(公告)号: | CN114897049A | 公开(公告)日: | 2022-08-12 |
| 发明(设计)人: | 高文飞;王辉;王瑞雪;王磊;郭丽丽 | 申请(专利权)人: | 济南融瓴科技发展有限公司 |
| 主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/04 |
| 代理公司: | 深圳市广诺专利代理事务所(普通合伙) 44611 | 代理人: | 赵耀 |
| 地址: | 250000 山东省济南市中国(山东)自*** | 国省代码: | 山东;37 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 基于 学习 标签 噪声 监测 方法 | ||
1.基于元学习的标签噪声监测方法,其特征在于:包括以下步骤:
S1、分类器训练:首先对数据集进行数据处理,将数据集输入到分类器网络中,对于每一个样本,都保存下交叉熵损失产生的损失值和样本的特征向量;
S2、元网络训练:对元网络输入,对于每一个样本,元网络能学会根据特征向量和损失值来生成一个权重,通过权重与阈值的比较,从而分离出干净样本和噪声样本;
S3、分类器更新:借助元网络生成的权重,可产生一个基于mini-batch的mask,通过mask,继而实现对训练批次中的样本的筛选,用样本来更新网络;
S4、元网络更新:借助一个数量很少的干净样本集,通过这个干净样本集的监督作用,可以保证元网络的参数不受到噪声信号的影响,从而使得元网络对噪声标签做出正确的检测;
S5、模型输出:在完成端到端的训练之后,保存下两个网络的参数,此时分类器是足够鲁棒的,对于单个样本,元网络能根据图片的特征向量和损失值来判断该样本是否为噪声,实现了对标签噪声的检测。
2.根据权利要求1所述的基于元学习的标签噪声监测方法,其特征在于:S1中的样本的特征向量作为独立于标签的信息,不受噪声信息影响。
3.根据权利要求1所述的基于元学习的标签噪声监测方法,其特征在于:S2中将损失值和特征向量拼接在一起,一起输入到元网络中,元网络对每一个样本产生一个权重,可表示为:
V(Litrain(θt),vi;φ(t))。
4.根据权利要求1所述的基于元学习的标签噪声监测方法,其特征在于:S2中,定义一个超参数τ作为阈值,对于权重大于阈值τ的样本,认定为干净样本;对于权重小于阈值τ的样本,认定为噪声样本。
5.根据权利要求1所述的基于元学习的标签噪声监测方法,其特征在于:S3中只使用干净样本,选用干净样本的损失值,通过随机梯度下降的方法去更新网络。
6.根据权利要求5所述的基于元学习的标签噪声监测方法,其特征在于:随机梯度下降的参数更新公式为:
其中其中α是随机梯度下降SGD中的一个参数,与分类网络的更新步长有关。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于济南融瓴科技发展有限公司,未经济南融瓴科技发展有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210357708.7/1.html,转载请声明来源钻瓜专利网。





