[发明专利]用于关系推断的系统和方法

说明书

本发明提出用于关系推断的系统和方法，其使用用于对文档进行数据挖掘的深度学习技术来发现覆盖特定主题的给定领域内的关注术语之间的关系。例如，在医疗保健领域内，本公开内容的各个实施例提供关系推断系统，其在自由文本数据库中挖掘大型医疗文档以提取症状和疾病术语，并且生成有助于医疗诊断的关系信息。在实施例中，这通过训练并使用RNN(诸如LSTM、门控递归单元(GRU)等来实现，其利用术语词典来检查文档内的关注术语的同时出现以发现术语之间的相关性。然后，可以使用该相关性在统计上预测与给定搜索术语(例如，症状)相关的最可能术语(例如，疾病)。

技术领域

本发明涉及计算机处理，更具体地，涉及用于提高通过使用深度学习技术来对大型文档进行数据挖掘以学习术语关系的计算效率的关系推断系统、装置和方法。

背景技术

在诸如信息检索、网页搜索以及智能聊天机器人应用的文本理解应用中，数据挖掘两个术语之间的相关性—其能够有助于理解术语如何彼此相关—是非常重要的。相关性信息可以用于例如基于医疗文本理解来揭示用于医疗诊断的症状-疾病关系，用于发现搜索关键术语—其对于信息检索和网页搜索而言至关重要—有关的术语，以及用于基于聊天历史来生成与继续聊天最相关的术语—其对于智能聊天机器人而言至关重要。

需要能够对大型文档进行挖掘并且发现用在各种文本理解应用中的、术语之间统计可靠的相关性的深度学习系统和方法。

发明内容

本发明在第一方面提供一种用于通过检查关注术语的同时出现来训练模型的方法，所述方法包括：

搜索数据库以获得包括术语库中所包括的术语的文档；

在至少部分所述文档中识别所述术语；

生成所识别的术语的特征以创建特征表示库；

创建包括两个或更多个术语的文档样本；

对于文档样本，使用所述特征表示库来生成所述两个或更多个术语的特征表示，并且识别所述术语在所述文档样本内的相对顺序序列；以及

使用所述特征表示和所述相对顺序来训练递归神经网络RNN模型，所述递归神经网络模型预测与一组术语的同时出现相关的、所述一组术语之间的相关性因子。

本发明在第二方面提供一种用于使用训练的递归神经网络RNN模型来生成关注术语之间的关系信息的方法，所述方法包括：

接收输入术语；

获得所述输入术语的特征表示；

将所述输入术语的特征表示输入到训练的RNN模型中，其中，已至少部分地使用训练数据中术语的同时出现衡量所述术语的相关性而训练所述训练的RNN模型，所述训练的RNN模型预测所述输入术语与一组术语中的每个术语之间的相关性因子；以及

输出具有超过阈值的相关性因子的术语。

本发明在第三方面还提供一种用于使用训练的递归神经网络RNN模型来生成关注术语之间的关系信息的方法，所述方法包括：

接收输入术语；

获得所述输入术语的特征表示；

将所述输入术语的特征表示输入到训练的RNN模型中，其中，已至少部分地使用训练数据中术语的同时出现衡量所述术语的相关性而训练所述训练的RNN模型，所述训练的RNN模型预测所述输入术语与一组术语中的每个术语之间的相关性因子；以及

输出具有超过阈值的相关性因子的术语。

附图说明

将参考附图中示出的示例说明本发明的实施例。这些附图旨在说明，而非限制性的。虽然在这些实施例的上下文中大体地描述了本发明，但是应该理解，其非旨在将本发明的范围限制于这些具体实施例。