[发明专利]基于文章实体词依赖关系的金融领域篇章级事件抽取方法

权利要求书

1.一种基于文章实体词依赖关系的金融领域篇章级事件抽取方法，其特征在于，包括以下步骤：

(1)实体词抽取：将中文文章转换为包含n个实体的实体集E＝{e₁,e₂,e₃,……,e_n}；

(2)实体词向量映射模块：使用Embedding映射方法将实体集E的汉语实体映射为向量空间的实体词向量集，实体词向量为：

其中，i＝1～n，e_i为第i个实体，LM为向量映射函数，W_e为生成实体词向量的可训练参数；

(3)候选论元集抽取：利用基于预训练语言模型的序列标注方法抽取文章的候选论元集A＝{a₁,a₂,……,a_K}；

(4)构建实体依赖关系和结构化自注意力模块：根据实体集中的实体词E＝{e₁,e₂,e₃,……,e_n}及其在文章中的位置，构建不同类型的实体依赖关系；结构化自注意力模块构建结构化实体依赖特征，并输出融合了结构化实体依赖特征的实体集；

(5)候选触发词集抽取：以融合了结构化实体依赖特征的实体集为输入，利用基于预训练语言模型的序列标注方法抽取文章的候选触发词集合T＝{T₁,T₂,……,T_u}；

(6)层次化金融事件注意力模块：利用预定义的层次化金融事件结构，结合注意力机制模型生成层次化金融事件特征；

(7)以Pedal Attention机制为基础的事件触发词、事件论元联合预测：PedalAttention机制模块基于步骤(2)得到的实体词向量集，得到实体间的语义关系特征；论元抽取模块基于候选论元集、候选触发词集合、层次化金融事件特征和实体间的语义关系特征，得到对应候选论元的概率集合；触发词抽取模块基于候选触发词集合、层次化金融事件特征和实体间的语义关系特征，得到对应候选触发词的概率集合；联合预测模块基于两个概率集合预测文章中事件的触发词T’及构成事件的论元集A’；

步骤(3)具体如下：

(3.1)使用BIO标注策略进行实体标注；

(3.2)使用基于预训练语言模型BERT的序列标注模型进行候选论元抽取；

(3.3)输出候选论元集A＝{a₁,a₂,……,a_K}；

步骤(6)具体如下：

层次化金融事件结构将金融事件中的多个细分事件划分成不同的大类事件，具体为：大类事件包括融资、交易、股权增减持、金融指标变化、多方合作、人事变动、上市相关和执法；其中，融资包括质押、解质押和企业借款，交易包括股份回购和企业并购，股权增减持包括股份减持和股份增持，金融指标变化包括亏损，多方合作包括中标，人事变动包括高级经理变动，上市相关包括公司上市和破产清算，执法包括被约谈和处罚；

基于步骤(5)提取的候选触发词集合，将大类事件特征与细分事件特征进行分别处理，大类事件特征与细分事件特征分别通过层次事件注意力机制，对所有候选论元产生重要性权重值和其中，是候选触发词所属大类事件生成的候选论元重要性权重值，是候选触发词所属细分事件生成的候选论元重要性权重值；基于层次化金融事件结构，得到第i_t个候选触发词对应的注意力权重

第i_t个候选触发词对应的层次化金融事件特征通过如下计算得到：

其中，为候选论元的向量表示，是中候选触发词i_t与候选论元j_t的权重关系，M_e和b_e是层次化金融事件注意力模块的可训练参数。