[发明专利]一种深度分类网络噪声标签建模与纠正方法、系统及存储介质在审
| 申请号: | 202310513686.3 | 申请日: | 2023-05-09 |
| 公开(公告)号: | CN116543259A | 公开(公告)日: | 2023-08-04 |
| 发明(设计)人: | 王琛;陶重犇;郭继冲;师君;周远远 | 申请(专利权)人: | 苏州科技大学 |
| 主分类号: | G06V10/774 | 分类号: | G06V10/774;G06V10/98;G06V10/762;G06V10/764;G06V10/82;G06N3/09 |
| 代理公司: | 深圳市添源创鑫知识产权代理有限公司 44855 | 代理人: | 周椿 |
| 地址: | 215000 *** | 国省代码: | 江苏;32 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 深度 分类 网络 噪声 标签 建模 纠正 方法 系统 存储 介质 | ||
1.一种深度分类网络噪声标签建模与纠正方法,其特征在于,包括以下步骤:
步骤一,获取损失函数曲线;
步骤二,对步骤一的损失函数曲线进行聚类拟合,得到单模型训练下标签噪声隶属度函数值,然后返回步骤一;循环执行步骤一和步骤二M次后,再执行步骤三;
步骤三,多模型噪声标签建模;获取M个模型的隶属度函数值,对所获取的M个模型的隶属度函数值进行多模型置信度阀值平均,得到最终最优隶属度函数值;
步骤四,噪声标签纠正与分类网络训练;根据步骤三的多模型标签建模结果,构建多个标签集合,并对所构建标签集合中不同标签样本赋予不同权重,得到对应设计加权损失函数对分类网络进行训练。
2.根据权利要求1所述的深度分类网络噪声标签建模与纠正方法,其特征在于,所述步骤一具体过程如下:
假设目标数据集为S,其中包含图像集Xn和对应含噪声标签的标签集Yn,利用目标图像数据集S训练深度分类网络模型,损失函数定义为交叉熵损失,训练时超参数设置与监督学习下深度网络训练模型的超参数相同,训练过程中记录每个迭代阶段中图像集Xn中每个图像样本i对应的损失值,得到对应损失函数曲线向量li,训练结束后将得到对应损失函数曲线集{li}。
3.根据权利要求1所述的深度分类网络噪声标签建模与纠正方法,其特征在于,所述步骤二具体过程如下:
将步骤一中获取到的损失函数曲线作为特征向量进行标签建模;假设T表示步骤一中损失函数曲线获取阶段中训练迭代次数,则任意损失曲线li为T维向量,将标签噪声建模阶段建模为无监督聚类过程,定义标签噪声建模损失函数为计算公式如下:
其中N为损失函数曲线的数量,q为模糊指数,c(k)表示第k类团簇的聚类中心,在噪声标签建模阶段,k有两个取值,此处取值为1、2,并规定k=1对应团簇中心为无噪声标签,ui(k)为隶属度函数,表示任意损失函数曲线li属于第k类团簇的程度;
通过交替迭代过程得到最小化损失函数值;首先初始化聚类中心c(k),之后利用下列公式交替迭代更新团簇和隶属度:
当优化迭代过程最终收敛后,将获得最优团簇中心c*(1)和c*(2)以及各损失曲线标签噪声隶属度函数c*(1)对应无噪声标签,c*(2)对应噪声标签,N为损失函数曲线的数量,i为损失函数序号下标,所有样本对应损失曲线隶属度函数值构成单模型训练下标签噪声隶属度函数值集合
4.根据权利要求1所述的深度分类网络噪声标签建模与纠正方法,其特征在于,所述步骤三包括:
步骤1,获取多模型隶属度函数值集合;每次使用相同训练集训练不同网络模型,得到不同噪声标签建模结果,即团簇中心c*m(1)和c*m(2)以及各损失函数隶属度函数值集合
步骤2,利用基于置信度阈值的方式计算多模型标签噪声平均,具体计算公式如下:
其中,
表示步骤二中拟合收敛后最优聚类结果下损失曲线i对应的隶属度函数在多模型下的基于阈值的平均,表示步骤二中拟合收敛后最优聚类结果下损失曲线i对应的隶属度函数在多模型下的算数平均,为指示函数,当满足时函数值为1,否则为0;j表示遍历所有损失曲线的下标索引,pi表示第i个训练损失函数曲线对应的变量p;
多模型下噪声标签建模结果计算为:
表示样本i对应标签建模为无噪声标签,表示样本i对应标签建模为噪声标签。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州科技大学,未经苏州科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310513686.3/1.html,转载请声明来源钻瓜专利网。





