[发明专利]文本的实体关系抽取方法和模型训练方法

说明书

本申请公开了一种文本的实体关系抽取方法和模型训练方法，本申请可以应用于人工智能领域的自然语言处理技术中，本申请的通过图状态循环神经网络和BERT模型的结合，从文本中分别抽取用于表征文本的语义特征的第一向量和用于表征文本的依存关系特征的第二向量，并将第一向量和第二向量拼接后进行分类，使得实体对的关系抽取在长句和跨句的应用场景中获得较好的准确度，改善了现有技术中在长句和跨句等应用场景下准确度不足的问题，此外，本申请在模型训练阶段，基于预设规则和预训练模型，通过远程监督的方式大量生产标注数据，可以在较低的成本下获得大量较为准确的训练数据。可见，本申请可以广泛应用于自然语言处理技术中。

技术领域

本申请涉及自然语言处理技术，尤其是一种文本的实体关系抽取、模型训练方法、装置和存储介质。

背景技术

随着人工智能(Artificial Intelligence，AI)技术的发展和具体领域的应用需求的不断增长，将人工智能技术应用到诸如医疗领域等具体领域的研究得到了发展。其中，自然语言处理(Natural Language Processing，NLP)技术为人工智能技术的重要分支。其中，在自然语言处理技术中，知识图谱(Knowledge Graph)的构建对人工智能应用有着重要的作用。例如人工智能可以利用知识图谱完成检索和问答等工作。

知识图谱由多个实体对之间的关系所构成，因此，对于构建知识图谱的工作而言，从海量文本中抽取实体对的关系是一项重要的基础工作。

现有的关系抽取模型通常基于word2vec、openAI-GPT、语义表示模型(Embeddingsfrom Language Models，ELMo)、双向转换编码器(Bidirectional EncoderRepresentation from Transformer，BERT)模型等预训练模型，这些预训练模型可以在短句的实体关系抽取中取得较好的效果。但是文本长度的增加，文本中实体的数量增加，会使得这些预训练模型对输入文本的语义抽取能力削弱，导致模型提取的特征丢失词语之间的关联信息，致使现有技术在长句或者跨句的实体关系抽取中性能较差。

发明内容

为解决上述技术问题的至少之一，本申请提供了一种文本的实体关系抽取、模型训练方法、装置和存储介质，以提高文本的实体关系抽取的准确性。

根据本申请的第一方面，提供了一种文本的实体关系抽取方法，包括以下步骤：

获取输入文本；

对所述输入文本进行识别处理，得到所述输入文本中的至少两个实体和所述至少两个实体的类型；

从所述至少两个实体中确定目标实体对；

根据目标实体的类型，将所述输入文本中的所述目标实体替换成用于表示所述目标实体的类型的字符，得到所述输入文本的替换文本；

从所述替换文本中提取语义特征信息；

从所述输入文本中提取依存关系特征信息；

将所述语义特征信息和所述依存关系特征信息进行组合处理再分类，得到所述目标实体对的关系分类结果，以确定所述目标实体对的关系。

根据本申请的第二方面，提供了一种关系抽取模型训练方法，包括以下步骤：

获取训练样本，所述训练样本包括输入文本和标注信息；所述标注信息用于标注输入文本中一组实体对的关系；

对所述输入文本进行识别处理，得到所述输入文本中的至少两个实体和所述至少两个实体的类型；

将所述输入文本中被标注的所述实体对确定为目标实体对；

根据目标实体的类型，将所述输入文本中的所述目标实体替换成用于表示所述目标实体的类型的字符，得到所述输入文本的替换文本；