[发明专利]数据标注修正方法、装置、计算机可读介质及电子设备有效
申请号: | 201910704540.0 | 申请日: | 2019-07-31 |
公开(公告)号: | CN110399933B | 公开(公告)日: | 2021-05-07 |
发明(设计)人: | 李佩易;王长虎 | 申请(专利权)人: | 北京字节跳动网络技术有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62 |
代理公司: | 北京英创嘉友知识产权代理事务所(普通合伙) 11447 | 代理人: | 魏嘉熹 |
地址: | 100041 北京市石景山区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 标注 修正 方法 装置 计算机 可读 介质 电子设备 | ||
本公开涉及AI领域,具体地,涉及一种数据标注修正方法、装置、计算机可读介质及电子设备。本公开采用多个不同表达能力的学习模型同时计算训练集内每一样本数据的分类分数,并且选出在每一所述学习模型下的分类分数均在该学习模型对应的阈值范围内的样本数据作为需要修正的样本数据,将多个学习模型计算得到的分类标注占比最高的作为该样本数据的标注。因而,本公开无需对训练集中所有样本数据都进行标注修正,能够自动对样本数据进行核查,寻找出最容易出现标注出错问题的样本数据集,自动且较准确地对该样本数据集内的标注进行修正,代替人工标注,具有高效而低成本特点。
技术领域
本公开涉及AI领域,具体地,涉及一种数据标注修正方法、装置、计算机可读介质及电子设备。
背景技术
人工智能(AI)在技术层面主要涉及大数据、自然语言处理、深度学习、语音识别、图像识别以及计算机视觉等技术,各技术均可能涉及到数学模型的生成和应用。在现在技术中,训练学习模型往往需要根据学习模型的需求对用于训练、验证及测试的数据集进行标注。目前对数据集进行标注的方式通常都是由人工来完成,因此数据集的标注中往往会存在一定的错误标注,因此在人工标注的过程中,还需要有一个对标注后的数据集进行核查的过程。这样,对用于训练学习模型的数据集进行标注的过程就非常繁琐,需要多人对整个数据集里的所有数据进行标注或核查,而且数据集的标注错误率不高时,将数据集中的所有数据都检查一遍非常浪费时间和人工成本。
由于数据集标注的正确性很大程度上影响了学习模型的效果,学习模型需要在正确的数据标注上才能获得,因此如何高效而低成本地对数据集的标注进行核查和修改是亟需解决的一个问题。
发明内容
提供该发明内容部分以便以简要的形式介绍构思,这些构思将在后面的具体实施方式部分被详细描述。该发明内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征,也不旨在用于限制所要求的保护的技术方案的范围。
第一方面,本公开提供一种数据标注修正方法,所述方法包括:
针对多个不同深度的学习模型,分别计算训练集中需要进行标注修正的样本数据的分类分数的阈值范围,得到每一所述学习模型对应的阈值范围,其中,每一所述学习模型是采用所述训练集训练得到的;
将所述训练集分别输入每一所述学习模型,得到所述训练集中每一样本数据在各所述学习模型下的分类分数;
根据每一所述样本数据在各个所述学习模型下的分类分数,确定待进行标注修正的目标样本集,对于所述目标样本集中的任一样本数据,该样本数据在每一所述学习模型下的分类分数均在该学习模型对应的阈值范围内;
针对所述目标样本集中的每一样本数据,获取该样本数据输入各所述学习模型后得到的分类标注,并根据该样本数据的每一种分类标注的占比,将该样本数据的标注修正为占比最高的分类标注。
第二方面,本公开提供一种数据标注修正装置,包括:
训练集阈值范围确定模块,用于针对多个不同深度的学习模型,分别计算训练集中需要进行标注修正的样本数据的分类分数的阈值范围,得到每一所述学习模型对应的阈值范围,其中,每一所述学习模型是采用所述训练集训练得到的;
训练集分类模块,用于将所述训练集分别输入每一所述学习模型,得到所述训练集中每一样本数据在各所述学习模型下的分类分数;
训练集目标集确定模块,用于根据每一所述样本数据在各个所述学习模型下的分类分数,确定待进行标注修正的目标样本集,对于所述目标样本集中的任一样本数据,该样本数据在每一所述学习模型下的分类分数均在该学习模型对应的阈值范围内;
训练集修正模块,用于针对所述目标样本集中的每一样本数据,获取该样本数据输入各所述学习模型后得到的分类标注,并根据该样本数据的每一种分类标注的占比,将该样本数据的标注修正为占比最高的分类标注。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京字节跳动网络技术有限公司,未经北京字节跳动网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910704540.0/2.html,转载请声明来源钻瓜专利网。
- 上一篇:信用证软条款识别方法及装置
- 下一篇:一种视频分类方法、装置及电子设备
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置