[发明专利]用于训练模型的方法、装置、设备以及存储介质有效

专利信息
申请号: 202010526432.1 申请日: 2020-06-11
公开(公告)号: CN111428008B 公开(公告)日: 2020-09-29
发明(设计)人: 时鸿剑;姜文斌;冯欣伟;余淼;周环宇;田孟;吴学谦;宋勋超 申请(专利权)人: 北京百度网讯科技有限公司
主分类号: G06F16/33 分类号: G06F16/33;G06F16/35;G06F40/30
代理公司: 北京英赛嘉华知识产权代理有限责任公司 11204 代理人: 王达佐;马晓亚
地址: 100085 北京市*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 用于 训练 模型 方法 装置 设备 以及 存储 介质
【说明书】:

本申请公开了用于训练模型的方法、装置、设备以及存储介质,涉及知识图谱、自然语言处理、深度学习技术领域。具体实现方案为:获取第一标注数据集,其中,第一标注数据集包括样本数据和样本数据对应的标注分类结果;根据第一标注数据集训练预先设置的初始分类模型,得到中间模型;利用中间模型对第一标注数据集中的样本数据进行预测,得到样本数据对应的预测分类结果;根据样本数据、对应的标注分类结果、对应的预测分类结果,生成第二标注数据集;根据第二标注数据集训练中间模型,得到分类模型。本实现方式能够有效地利用高噪声的标注数据,训练出高可用的模型,提高了数据的利用率。

技术领域

本申请涉及计算机技术领域,具体涉及知识图谱领域、自然语言处理、深度学习领域,尤其涉及用于训练模型的方法、装置、设备以及存储介质。

背景技术

语义匹配技术是自然语言处理领域中重要的技术方向,在业务中也有着广泛的应用,充当着应用的基石。语义匹配技术,简而言之,是将两个字符串经过语义理解后,根据其语义进行相似度匹配的技术。语义匹配技术不仅在自然语言处理领域中一直占有相当重要的地位,而且在排序、推荐以及问答等多个业务领域有着广泛的应用,是研究与业务中不可或缺的一部分。

但是语义匹配模型训练的数据一直是限制其在科研与业务中广泛应用的源头。语义匹配模型的训练数据中,对于某些标准较为模糊的匹配需求,其标注数据会较为困难,会出现非常多的错误标注,又常有非常多的噪声。而如何克服噪声,训练出高效且准确的语义匹配模型,则是进一步推进语义匹配模型效果的途径。

发明内容

提供了一种用于训练模型的方法、装置、设备以及存储介质。

根据第一方面,提供了一种用于训练模型的方法,包括:获取第一标注数据集,其中,上述第一标注数据集包括样本数据和样本数据对应的标注分类结果,样本数据包括文本数据、图像数据、语音数据或视频数据;根据上述第一标注数据集训练预先设置的初始分类模型,得到中间模型;利用上述中间模型对上述第一标注数据集中的样本数据进行预测,得到上述样本数据对应的预测分类结果;根据上述样本数据、对应的标注分类结果、对应的预测分类结果,生成第二标注数据集;根据上述第二标注数据集训练上述中间模型,得到分类模型。

根据第二方面,提供了一种用于训练模型的装置,包括:获取单元,被配置成获取第一标注数据集,其中,上述第一标注数据集包括样本数据和样本数据对应的标注分类结果,样本数据包括文本数据、图像数据、语音数据或视频数据;第一训练单元,被配置成根据上述第一标注数据集训练预先设置的初始分类模型,得到中间模型;预测单元,被配置成利用上述中间模型对上述第一标注数据集中的样本数据进行预测,得到上述样本数据对应的预测分类结果;生成单元,被配置成根据上述样本数据、对应的标注分类结果、对应的预测分类结果,生成第二标注数据集;第二训练单元,被配置成根据上述第二标注数据集训练上述中间模型,得到分类模型。

根据第三方面,提供了一种用于训练模型的电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,所述指令被至少一个处理器执行,以使至少一个处理器能够执行如第一方面所描述的方法。

根据第四方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,上述计算机指令用于使计算机执行如第一方面所描述的方法。

根据本申请的技术能够有效地利用高噪声的标注数据,训练出高可用的模型,提高了数据的利用率。

应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案,不构成对本申请的限定。其中:

图1是本申请的一个实施例可以应用于其中的示例性系统架构图;

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202010526432.1/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top