[发明专利]一种基于图聚合和推理的文本关系抽取方法

权利要求书

1.一种基于图聚合和推理的文本关系抽取方法，其特征在于，包括以下步骤：

S1、通过编码器获取文档的实体初始表示，进而构建文档级图；

S2、根据文档级图中边的类型，通过l层堆叠的关系图卷积神经网络对文档级图进行卷积，生成实体全局表示；

S3、根据文档级图中实体全局表示生成实体级图，进而生成实体最终表示；根据实体最终表示获得目标关系表示和上下文关系表示；

S4、根据目标关系表示和上下文关系表示，通过前馈神经网络进行预测，得到关系预测结果，完成文本关系抽取。

2.根据权利要求1所述的基于图聚合和推理的文本关系抽取方法，其特征在于，所述步骤S1包括以下分步骤：

S11、将BERT作为编码器获取文档的嵌入，并通过logsumexp池化层获得文档的实体初始表示；

其中，得到所述文档的嵌入H的表达式具体为：

H＝[h₁,h₂,…,h_k2]＝BERT([w₁,w₂,…,w_k1])

式中，w_k1为文档D的第k1个单词，h_k2为第k2层BERT输出获得的隐藏状态序列；

获得文档的实体初始表示的表达式具体为：

式中，为包含提及的隐藏状态序列，为提及的总数；

S12、根据文档的实体初始表示构建文档级图；

其中，所述文档级图包括句子节点和提及节点；

所述句子节点的表达式为提及节点的表达式为

3.根据权利要求2所述的基于图聚合和推理的文本关系抽取方法，其特征在于，所述步骤S2包括以下分步骤：

S21、基于文档级图中句子节点与提及节点，定义文档级图中边的类型，并生成文档级图的边；

S22、通过l层堆叠的关系图卷积神经网络对文档级图进行卷积，获取文档级图中边的关系，生成异构图；

S23、将异构图输入logsumexp池化层，得到实体全局表示。

4.根据权利要求3所述的基于图聚合和推理的文本关系抽取方法，其特征在于，所述步骤S21中，文档级图中边的类型包括提及-提及边缘、提及句子边缘和句子-句子边缘；

所述步骤S21具体为：

当两个不同的实体初始表示在同一个句子中时，则连接两个不同实体初始表示的提及节点，生成提及-提及边缘；当提及节点在句子中时，则连接提及节点和当前句子中的句子节点，生成提及句子边缘；连接所有句子节点，生成句子-句子边缘。

5.根据权利要求3所述的基于图聚合和推理的文本关系抽取方法，其特征在于，所述步骤S22中，l层堆叠的关系图卷积神经网络对节点前向传递更新的表达式具体为：

式中，为l层堆叠的关系图卷积神经网络输出的文档级图中节点，和均为l-1层堆叠的关系图卷积神经网络输出的文档级图中节点，σ(·)为激活函数，为与边x连接的节点i的邻居集合，为边类型的集合，为可训练的参数矩阵，d_n为节点表示的维度。

6.根据权利要求3所述的基于图聚合和推理的文本关系抽取方法，其特征在于，所述步骤S23中，计算实体全局表示的表达式具体为：

式中，和均为可训练的参数矩阵，为logsumexp池化层输出的实体表示相关函数，为实体初始表示相关函数，为标准化特征向量。

7.根据权利要求6所述的基于图聚合和推理的文本关系抽取方法，其特征在于，所述步骤S3包括以下分步骤：

S31、根据文档级图中实体全局表示生成实体级图，通过l层堆叠的关系图卷积神经网络对实体级图进行卷积，生成实体推理表示，根据实体推理表示和实体全局表示得到实体最终表示；

S32、根据实体最终表示和相对距离表示，得到实体对的特定实体表示，连接实体对的特定实体表示得到目标关系表示，根据目标关系表示获得上下文关系表示。