[发明专利]基于注意力循环门控图卷积网络的关系提取方法及系统

权利要求书

1.一种基于注意力循环门控图卷积网络的关系提取方法，其特征在于，包括如下步骤：

步骤S1：对语句进行语义依存分析，为每个输入语句构建一个唯一的依赖树，使用预训练的词向量获得单词嵌入表示，将单词嵌入与位置特征相连接，得到最终的单词嵌入表示；

步骤S2：构建BLSTM网络层，设置BLSTM网络结构的各项超参数数值，将所述最终的单词嵌入表示输入到所述BLSTM网络中，提取单词上下文特征向量；

步骤S3：对所述依赖树应用注意力机制，将所述依赖树转化为全连通图，得到带有权重信息的全连通图的软邻接矩阵；

步骤S4：将所述单词上下文特征向量和软邻接矩阵传入门控图卷积网络中，提取高阶语义依赖特征，得到语句的向量表示；

步骤S5：将两个标记实体的向量表示抽取出来并与所述语句的向量表示拼接，传入所述门控图卷积网络的全连接层中，计算每个关系类型的概率以及预测关系类别，得到所有训练示例，通过所述门控图卷积网络不断训练得到最优的网络模型，最终得到语句的关系类别。

2.根据权利要求1所述的基于注意力循环门控图卷积网络的关系提取方法，其特征在于：使用预训练的词向量获得单词嵌入向量表示：w_i＝W*v_i其中，W为Glove词向量矩阵，v_i表示单词的one-hot向量表示，w_i表示第i个单词的词嵌入向量。

3.根据权利要求1所述的基于注意力循环门控图卷积网络的关系提取方法，其特征在于：所述最终的单词嵌入表示为：x_i＝[w_i，p₁，p₂]，其中第i个单词相对于预先标记的第一实体和第二实体的位置特征分别表示为p₁和p₂，w_i表示第i个单词的词嵌入向量。

4.根据权利要求1所述的基于注意力循环门控图卷积网络的关系提取方法，其特征在于：所述BLSTM网络层包括两层LSTM，在两层LSTM上分别对前向句子序列和反向句子序列进行编码。

5.根据权利要求4所述的基于注意力循环门控图卷积网络的关系提取方法，其特征在于：在两层LSTM上分别对前向句子序列和反向句子序列进行编码时，编码的过程为：i_t＝σ(W_xix_t+W_hih_t-1+W_cic_t-1+b_i)；f_t＝σ(W_xfx_t+W_hfh_t-1+W_cfc_t-1+b_f)；g_t＝tanh(W_xgx_t+W_hgh_t-1+W_cgc_t-1+b_g)；o_t＝σ(W_xox_t+W_hoh_t-1+W_coc_t+b_o)；其中，σ代表sigmoid激活函数；代表向量元素相乘；x_t表示时间t时刻的输入向量；h_t表示隐藏状态；W_xi、W_xf、W_xg、W_xo表示x_t在不同门机制上的权重矩阵；W_hi、W_hf、W_hg、W_ho表示h_t在不同门机制上的权重矩阵；b代表偏差参数，在第t时刻，BLSTM的前向输出为反向输出为将两个方向的输出拼接得到最终t时刻的输出h_t：