[发明专利]一种数据处理方法、装置及设备在审
申请号: | 202111523107.0 | 申请日: | 2021-12-13 |
公开(公告)号: | CN114298173A | 公开(公告)日: | 2022-04-08 |
发明(设计)人: | 刘珂瑞;唐三立 | 申请(专利权)人: | 上海高德威智能交通系统有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N20/00 |
代理公司: | 北京博思佳知识产权代理有限公司 11415 | 代理人: | 王剑 |
地址: | 201821 上海市嘉定*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 装置 设备 | ||
1.一种数据处理方法,其特征在于,所述方法包括:
获取无标签数据集,所述无标签数据集包括多个无标签数据;针对每个无标签数据,该无标签数据对应多个伪标签,所述多个伪标签是将该无标签数据输入给多个基础模型后,由所述多个基础模型输出的伪标签;
针对每个基础模型,从所述无标签数据集中选取所述基础模型对应的目标无标签数据;其中,针对无标签数据集中每个无标签数据,基于该无标签数据对应的多个伪标签,确定该无标签数据针对所述基础模型的第一不确定度、该无标签数据针对所述基础模型之外的剩余基础模型的第二不确定度;基于所述第一不确定度和所述第二不确定度确定该无标签数据是所述基础模型对应的目标无标签数据,或不是所述基础模型对应的目标无标签数据;
基于所述基础模型对应的目标无标签数据对所述基础模型进行训练,得到已训练的目标模型;其中,所述目标模型用于对应用数据进行数据处理。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
针对所述无标签数据集中每个无标签数据,对该无标签数据进行A次数据增广,得到A个数据增广后的无标签数据,所述A为正整数;
针对每个数据增广后的无标签数据,将该数据增广后的无标签数据输入给多个基础模型,由所述多个基础模型输出与该无标签数据对应的伪标签。
3.根据权利要求1所述的方法,其特征在于,所述基于该无标签数据对应的多个伪标签,确定该无标签数据针对所述基础模型的第一不确定度、该无标签数据针对所述基础模型之外的剩余基础模型的第二不确定度,包括:
将该无标签数据对应的多个伪标签划分到第一伪标签集合和第二伪标签集合;其中,第一伪标签集合中的伪标签是由所述基础模型输出的伪标签,第二伪标签集合中的伪标签是由所述基础模型之外的剩余基础模型输出的伪标签;
基于所述第一伪标签集合中各伪标签对应的置信度确定所述第一不确定度;
基于所述第二伪标签集合中各伪标签对应的置信度确定所述第二不确定度。
4.根据权利要求3所述的方法,其特征在于,
所述基于所述第一伪标签集合中各伪标签对应的置信度确定所述第一不确定度,包括:基于所述第一伪标签集合中各伪标签对应的置信度确定第一平均值的熵,基于所述第一伪标签集合中各伪标签对应的置信度确定第一熵的平均值;基于所述第一平均值的熵和所述第一熵的平均值确定所述第一不确定度;
所述基于所述第二伪标签集合中各伪标签对应的置信度确定所述第二不确定度包括:基于所述第二伪标签集合中各伪标签对应的置信度确定第二平均值的熵,基于所述第二伪标签集合中各伪标签对应的置信度确定第二熵的平均值;基于所述第二平均值的熵和所述第二熵的平均值确定所述第二不确定度。
5.根据权利要求1或3所述的方法,其特征在于,所述基于所述第一不确定度和所述第二不确定度确定该无标签数据是所述基础模型对应的目标无标签数据,或不是所述基础模型对应的目标无标签数据,包括:
基于所述第一不确定度和所述第二不确定度之间的差值,确定该无标签数据针对所述基础模型和所述剩余基础模型的不确定度差;
若所述不确定度差大于第一阈值,则确定该无标签数据是所述基础模型对应的目标无标签数据;或者,若所述不确定度差不大于所述第一阈值,则确定该无标签数据不是所述基础模型对应的目标无标签数据。
6.根据权利要求3所述的方法,其特征在于,所述基于所述第一不确定度和所述第二不确定度确定该无标签数据是所述基础模型对应的目标无标签数据,或不是所述基础模型对应的目标无标签数据,包括:
基于所述第一不确定度和所述第二不确定度之间的差值,确定该无标签数据针对所述基础模型和所述剩余基础模型的不确定度差;
基于所述第二伪标签集合中各伪标签对应的置信度确定平均置信度;
若所述不确定度差大于第一阈值,且所述平均置信度大于第二阈值,则确定该无标签数据是所述基础模型对应的目标无标签数据;
若所述不确定度差不大于第一阈值,和/或所述平均置信度不大于第二阈值,则确定该无标签数据不是所述基础模型对应的目标无标签数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海高德威智能交通系统有限公司,未经上海高德威智能交通系统有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111523107.0/1.html,转载请声明来源钻瓜专利网。