[发明专利]基于自然语言推断分类数据集的降噪装置及方法在审
| 申请号: | 202110918801.6 | 申请日: | 2021-08-11 |
| 公开(公告)号: | CN113822330A | 公开(公告)日: | 2021-12-21 |
| 发明(设计)人: | 徐波;赵象三;宋晖 | 申请(专利权)人: | 东华大学 |
| 主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N5/04;G06F40/295;G06F40/30 |
| 代理公司: | 北京力量专利代理事务所(特殊普通合伙) 11504 | 代理人: | 毛雨田 |
| 地址: | 200051 上*** | 国省代码: | 上海;31 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 基于 自然语言 推断 分类 数据 装置 方法 | ||
1.一种基于自然语言推断分类数据集的降噪装置,其特征在于,包括:
将分类数据集转换成自然语言推断数据集的数据格式转换模块;
对转换后的自然语言推断数据集进行训练的自然语言推断模型训练模块,所述自然语言推断模型训练模块在能提供大量标注正确且分布同全量远程监督关系分类数据集一致的监督数据的情况下使用监督学习训练模型,若不能提供,则使用强化学习的方法对模型进行训练;
利用训练好的自然语言推断模型对远程监督关系分类数据集进行优化的数据集降噪模块。
2.根据权利要求1所述的基于自然语言推断分类数据集的降噪装置,其特征在于,上述数据格式转换模块依据关系分类数据集中的各类关系的语义分别构造对应模板,将关系分类中的三元组转换成自然语言推断中的假设,将关系分类数据集中的文本作为自然语言推断中的前提,实现自然语言推断训练集的构造。
3.根据权利要求1所述的基于自然语言推断分类数据集的降噪装置,其特征在于,上述自然语言推断模型训练模块,当原始数据能提供标注正确且分布同全量远程监督关系分类数据集一致的标注数据的时候使用监督学习训练模型,当原始数据包含大量噪声,使用强化学习的方法在不依赖监督学习所需的标注数据的情况下对自然语言推断模型进行训练。
4.根据权利要求1所述的基于自然语言推断分类数据集的降噪装置,其特征在于,上述数据集降噪模块通过训练好的自然语言推断模型对远程监督得到的关系分类数据集进行打分,按照分数选取置信度高的数据作为优化后的数据集。
5.基于权利要求1所述的基于自然语言推断分类数据集降噪装置的降噪方法,其特征在于,包括如下步骤:
数据集格式转换,将关系分类数据集转换成自然语言推断数据集;
自然语言推断模型训练,在能提供大量标注正确且分布同全量远程监督关系分类数据集一致的监督数据的时候使用监督学习训练模型,无法提供的时候使用强化学习的方法对模型进行训练;
数据集降噪,通过训练好的自然语言推断模型对远程监督关系分类数据集进行优化。
6.根据权利要求5所述的降噪方法,其特征在于,上述数据格式转换过程中,依据关系分类数据集中的各类关系的语义分别构造对应模板,将关系分类中的三元组转换成自然语言推断中的假设,将关系分类数据集中的文本作为自然语言推断中的前提,实现自然语言推断训练集的构造。
7.根据权利要求5所述的降噪方法,其特征在于,上述自然语言推断模型训练过程中,当原始数据能提供较大量标注正确且分布同全量远程监督关系分类数据集一致的监督数据的时候可以时候用监督学习训练模型,当原始数据包含大量噪声,而获得大规模干净的用于监督学习的数据集代价很大的时候使用强化学习的方法对自然语言推断模型进行训练。
8.根据权利要求5所述的降噪方法,其特征在于,上述数据集降噪过程中,通过训练好的自然语言推断模型对远程监督得到的关系分类数据集进行打分,按照分数选取置信度高的数据作为优化后的数据集。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于东华大学,未经东华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110918801.6/1.html,转载请声明来源钻瓜专利网。





