[发明专利]一种基于主题特征和隐式句子结构的事件抽取方法

权利要求书

1.一种基于主题特征和隐式句子结构的事件抽取方法，其特征在于，该方法包括以下步骤：

1)数据处理及主题特征抽取：将原始数据集重构成JSON格式，对于读取的数据集中的每个样本发明档，进行主题特征抽取，然后利用NLTK包中的分句工具对样本发明档进行分句得到样本句子；

2)隐式句子结构抽取：对于每个样本句子，首先利用语言模型Bert获得句子中的词嵌入作为句子上下文特征，然后对于这个词嵌入序列，利用一种屏蔽机制对句子中各成分之间的相互影响程度进行计算，作为隐式句子结构特征，用于后续的事件抽取联合方法；

3)基于级联式CRF的事件触发词抽取模块，采用一种级联的序列标注方法将抽取任务分解成边界标注和类型判别两个任务，先标记事件触发词的边界，然后判断其对应的事件类型；

4)利用Bi-LSTM融入句法信息的事件元素抽取模块，在正向和反向的递归过程中引入影响矩阵中的数据，在当前词节点及其强相关的词节点之间建立对应的联系，使得句法信息能够在LSTM节点之间传播，最终使句法信息融入单词的向量表示中；

5)联合训练，以交叉熵损失函数来分别计算事件触发词抽取模块和事件元素抽取模块的损失，并且对事件触发词和事件元素抽取进行联合训练以避免错误累积问题，为了两个子任务的损失项在同一时刻收敛，最终的损失由两个子任务的损失之和表示。

2.根据权利要求1所述的基于主题特征和隐式句子结构的事件抽取方法，其特征在于，所述步骤1)中，按照如下方式抽取出主题特征：

1-1)利用面向长句编码的Sentence-Transformer得到每个文档具有上下文语义信息的上下文表示；

1-2)然后利用主题模型LDA得到每个文档的主题分布信息；

1-3)利用上述两个向量训练一个自编码器用于将这两个向量进行融合，以自编码器的结果作为每个文档的主题特征。

3.根据权利要求1所述的基于主题特征和隐式句子结构的事件抽取方法，其特征在于，所述步骤2)中根据以下特征构建训练数据集：

2-1)将输入序列中的任意一个单词x_i替换成屏蔽字符[MASK]得到新的输入序列，将该序列输入到BERT中得到的结果h_i，将h_i作为x_i的表示；

2-2)更为了得到句子中其他成分x_j对x_i的影响，进而将输入序列中的x_j也特换成屏蔽字符[MASK]，再输入BERT中得到x_i的新表示H_ij；

2-3)利用欧式距离来计算H_ij和h_i在语义空间中的距离f(x_i,x_j)，最终得到句子中两两成分之间的影响程度矩阵该矩阵即为隐式句子结构信息，可以表征任意两个句子成分之间的相互影响程度。