[发明专利]一种基于平均损失和逐类选择的弱监督图片分类方法有效
申请号: | 202110399477.1 | 申请日: | 2021-04-14 |
公开(公告)号: | CN113283467B | 公开(公告)日: | 2022-10-18 |
发明(设计)人: | 王魏;桂贤进 | 申请(专利权)人: | 南京大学 |
主分类号: | G06V10/774 | 分类号: | G06V10/774;G06V10/764;G06V10/82;G06N3/04 |
代理公司: | 南京乐羽知行专利代理事务所(普通合伙) 32326 | 代理人: | 李玉平 |
地址: | 210023 江苏*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 平均 损失 选择 监督 图片 分类 方法 | ||
1.一种基于平均损失和逐类选择的弱监督图片分类方法,其特征在于,包括如下内容:
首先,建立一个带有噪声标记图片数据库作为训练数据集;
接着,选定一种深度神经网络模型作为图片分类器模型,使用该模型利用随机梯度下降算法在训练数据集上训练预定的轮数,并记录每一轮结束时每个样例的损失值大小;基于依据样例的平均损失从带噪图片数据中逐类选择出低风险图片数据,同时把未被选中的图片数据视为未标记图片数据;
接下来,基于MixMatch技术对低风险图片数据和未标记图片数据进行混合生成新的伪标记图片数据扩充训练集;在图片数据混合的过程中,基于样例的平均损失值对低风险图片数据设置权值并进行加权重采样;
接下来,在新生成的伪标记图片数据集上,通过随机梯度下降算法重新进行深度神经网络模型的训练,直到网络收敛;最后在预测阶段,用户将待测图片输入给深度神经网络模型,模型返回该图片属于每个类别的概率并输出对应概率值最高的那个类别作为预测类别;
所述低风险图片数据和未标记图片数据选择的过程为:
步骤200,选定一个神经网络模型作为图片分类器,使用该模型利用随机梯度下降算法在训练集上训练预定的轮数T,并记录每一轮结束时每个样例的损失值的大小
步骤201,计算出每个样例在训练过程中的平均损失值大小对每个类别的样本按照其平均损失值大小进行从小到大排序;
步骤202,根据逐类选择技术,从图片数据集的第i个类别样本中挑选出num(i)个平均损失值最小的样本构成数据集Dsel,其中num(i)的计算方式如下,设ηi表示第i类样本的噪声率,ni表示图片数据集中的样本数量,[p1,…,pc]表示真实的类别分布,β和γ是两个由用户自行调节的超参数:
prop(i)=max{1-(1+β)ηi,(1-β)(1-ηi)}
num(i)=min{γ·pi×m,prop(i)×ni}
步骤203,对于上一步骤中未被选中的图片数据,舍弃其标记并将其视为未标记图片数据
所述伪标记图片数据生成步骤具体为:
步骤300,对选择出来的图片数据按照其平均损失值的大小赋予不同的权值权值计算公式如下:
其中代表数据集Dsel中标记为i的样本构成的集合,κ是一个由用户自行调节的超参数;
步骤301,基于MixMatch技术利用步骤202-203处理所得的低风险数据集Dsel和未标记图片数据集Du生成新的伪标记图片数据集(L,U)=MixMatch(Dsel,Du);在生成伪标记图片数据的过程中,首先按照每个样例的权重对Dsel中的样例进行加权重采样,然后把采样后的数据集输入到MixMatch算法。
2.根据权利要求1所述的基于平均损失和逐类选择的弱监督图片分类方法,其特征在于,选定一种深度神经网络模型作为图片分类器模型,使用该模型利用随机梯度下降算法在训练数据集上训练预定的轮数,并记录每一轮结束时每个样例的损失值大小,计算出每个样例在训练过程中的平均损失值的大小,对每个类别的样例按照其平均损失值的大小进行排序;根据逐类选择从训练数据集中为每个类挑选出预设数量的平均损失最小的样本,作为低风险图片数据,并把剩下未被选中的样本视为未标记图片数据。
3.根据权利要求1所述的基于平均损失和逐类选择的弱监督图片分类方法,其特征在于,通过众包、网络爬虫或者图片搜索引擎采集带有噪声标记的图片数据集作为训练数据集。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京大学,未经南京大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110399477.1/1.html,转载请声明来源钻瓜专利网。