[发明专利]基于孪生网络的远程监督关系抽取降噪系统

说明书

本申请实施例涉及一种基于孪生网络的远程监督关系抽取降噪系统，旨在旨在降低远程监督回标训练数据的噪声影响，同时减少训练数据损失的情况。该系统包括：文本分析模块，关系选择器训练模块，关系选择模块，噪声数据聚类模块，关系分类模块；所述文本分析模块用于接收远程监督回标文本数据，输出初始候选数据和初始高可信度数据；所述关系选择器训练模块用于利用标注好的文本数据训练出基于孪生网络的关系选择器；所述关系选择模块用于对初始候选数据和初始高可信度数据进行关系选择，输出噪声数据和新增高可信度数据；所述噪声聚类模块用于对噪声数据进行聚类分析，输出新增候选数据，所述关系分类模块用于输出最后的分类结果。

技术领域

本发明涉及自然语言处理技术领域，尤其是涉及一种基于孪生网络的远程监督关系抽取降噪系统。

背景技术

关系抽取是信息抽取中的一个基本任务，目的是对句子中实体对的语义关系进行预测，对于知识图谱的构建有着重要的作用。关系抽取的一个关键问题是缺乏大规模高质量的标注数据，远程监督的方法可以有效解决标注数据较少的问题，远程监督是通过将语料与知识库对齐来获取训练数据，即假设知识库中存在某一实体对，那么语料中所有含有这个实体对的句子都被标记为此实体对在知识库中对应的关系。

远程监督是一种有效的自动标注大规模训练数据的方法，但是由于其假设过于宽松，回标数据的过程中会产生大量的噪声，这些噪声数据会严重影响关系抽取的性能。基于多实例学习的方法在降噪任务上取得了不错的效果，多实例学习将相同实体对对应的实例放在同一个包中，其中一些是噪声。多实例学习选取每个包中可能性最大的实例作为真正例，每个包中剩余的实例对模型的训练没有帮助，这样就造成了大量训练数据的损失。

发明内容

本申请实施例提供一种基于孪生网络的远程监督关系抽取降噪系统，旨在降低远程监督回标训练数据的噪声影响，同时减少训练数据损失的情况。

本申请实施例第一方面提供一种基于孪生网络的远程监督关系抽取降噪系统，所述系统包括：文本分析模块，关系选择器训练模块，关系选择模块，噪声数据聚类模块，关系分类模块；

所述文本分析模块，用于接收待分析的远程监督回标文本数据，输出初始候选数据及初始高可信度数据；

所述关系选择器训练模块，用于接收有标注的文本数据，并训练出基于孪生网络的关系选择器，输出关系选择器模型；

所述关系选择模块，与所述文本分析模块相连，用于接收所述初始候选数据及所述高可信度数据，经过对所述初始候选数据的选择之后，输出噪声数据及新增的所述高可信度数据；

所述噪声数据聚类模块，与所述关系选择模块相连，用于接收所述关系选择模块生成的所述噪声数据，经过聚类对所述噪声数据重新进行标注，输出新增的所述候选数据；

所述关系分类模块，与所述噪声数据聚类模块相连，用于接收所述文本分析模块，所述关系选择模块以及所述噪声聚类模块的最终输出数据，通过全连接映射到关系空间，输出关系分类结果。

可选地，所述文本分析模块用于对所述远程监督回标文本数据进行向量化处理，获得所述待分析的远程监督回标文本数据中每个句子的词向量与位置向量，生成句向量；将含有相同实体的所述句向量放在同一个包中；将每个所述包中可信度最高的句向量作为所述初始高可信度数据输出，其余句向量作为所述初始候选数据输出。

可选地，所述关系选择器训练模块具体采用孪生网络模型，输入数据包括与目标抽取数据不相关的有标注数据，所述有标注数据具有众多类别，利用所述有标注数据训练一个孪生网络模型，所述孪生网络模型即作为所述关系选择器。