[发明专利]一种融入外部知识的生物医疗关系抽取方法

权利要求书

1.一种融入外部知识的生物医疗关系抽取方法，其特征在于包括以下步骤：

步骤一、对生物医疗数据集中每个句子中的每个单词进行词嵌入和位置嵌入操作，得到词向量和位置向量，然后将得到的词向量和位置向量进行拼接得到每个单词的向量表示，最后将句子中所有单词的向量表示进行拼接，得到每个句子的矩阵表示；

步骤二、将步骤一得到的每个句子的矩阵表示输入到PCNN神经网络中得到生物医疗数据集中每个句子的向量表示；

步骤三、获取生物医疗数据集中每个句子的头实体和尾实体，并在外部知识图谱中分别抽取与头实体有关系的实体以及与尾实体有关系的实体，得到以头实体为中心的关系图和以尾实体为中心的关系图，将得到的两个关系图输入到图编码器中构建头尾实体的外部知识图谱的综合向量表示；

步骤四、将生物医疗数据集中每个句子的向量表示和头尾实体的外部知识图谱的综合向量进行结合，得到包含外部信息的句子向量；

步骤五、对于每个实体对，选择包含该实体对的所有句子构成一个集合，根据包含外部信息的句子向量表示，采用句子级别注意力机制计算该集合中每个句子的注意力权重，然后以该集合中所有包含外部信息的句子表示的注意力加权和作为该集合的向量表示，并对该集合的向量表示进行预测，得到该实体对的预测关系。

2.根据权利要求1所述的一种融入外部知识的生物医疗关系抽取方法，其特征在于所述步骤三中图编码器采用KG-Transformer。

3.根据权利要求2所述的一种融入外部知识的生物医疗关系抽取方法，其特征在于所述KG-Transformer的编码过程为：

KG-Transformer将输入的两个关系图中的结点序列的向量表示X＝{x₁,x₂,...,x_N}输入到Muti-head Attention Layer与AddNorm Layer：

所述Muti-head Attention Layer进行如下计算：

其中，表示这一层H个注意头的拼接，x'_i表示输出的节点表示，A为邻接矩阵，i表示第i行，j表示第j列，d为结点嵌入的维度，均为权重矩阵，N表示结点序列的长度，Masking(X,A)表示按照矩阵A中值为1的位置对矩阵X的相应位置的值进行掩码操作，表示第h个注意力头关于结点x_j的注意力权重，h表示第h个注意力头，表示的所有行元素求和,I为单位矩阵；

所述AddNorm Layer进行如下计算：

O＝LayerNorm(X+X')

其中，X＝{x₁,x₂,......,x_N}，X为结点序列的向量表示，X'＝{x'₁,x'₂,......x'_N}，X'为Muti-head Attention Layer计算的输出，LayerNorm(·)为层归一化函数，该输出结果O将作为下一层Muti-head Attention Layer的输入；

上述计算过程重复L次，L为任意整数，得到所有结点的向量表示，最后分别将头实体和尾实体的关系图的所有结点的向量表示求和，得到头尾实体的综合向量表示。

4.根据权利要求3所述的一种融入外部知识的生物医疗关系抽取方法，其特征在于所述L取8、12、16或24。

5.根据权利要求1所述的一种融入外部知识的生物医疗关系抽取方法，其特征在于所述步骤二中PCNN神经网络通过卷积、池化和非线性操作得到生物医疗数据集中每个句子的向量表示。