[发明专利]基于可回溯序列生成方法的事件检测方法和系统

说明书

本发明涉及软件检测技术领域，提出一种基于可回溯序列生成方法的事件检测方法和系统，其中方法包括：对作为训练文本的输入句子进行编码；对编码后的输入句子计算Luong注意力，并根据计算出的注意力权重定位出输入句子中权重最大的单词；对计算Luong注意力后的输入句子计算其中上下文向量；根据所述上下文向量，对输入句子进行解码，每时刻解码出一个事件类型的名称；根据解码结果、输入句子中包含的事件触发词、触发词触发的事件类型和预先定义的目标函数训练模型，得到事件监测模型；将作为待测文本的输入句子输入所述事件监测模型得到事件检测结果。根据本发明的方案，事件检测效率高，准确度高。

技术领域

本发明涉及信息检测技术领域，尤其涉及一种基于可回溯序列生成方法的事件检测方法、系统、电子设备和计算机可读存储介质。

背景技术

事件抽取是信息抽取领域一个重要且富有挑战性的子任务，旨在从非结构化的文本中抽取出结构化的事件信息，主要包括事件类别、事件参与者和事件属性等。事件抽取在自动文摘、自动问答、信息检索、知识图谱构建等领域有着广泛的应用。事件检测旨在从非结构化的数据中识别特定类型的事件及其触发词，是事件提取的关键步骤。

在过去的几年中，深度学习模型包括卷积神经网络 (CNN)，循环神经网络 (RNN)和Transformer，已广泛应用于事件检测，并取得了重大进展。从问题的定义方式来看，可以将大多数工作分为两类。第一类工作将事件检测定义为对候选触发词的分类问题，第二类将事件检测定义为序列标注问题。

近年来，研究者们普遍地将序列到序列的结构应用到下游的NLP任务中。例如，T5将所有基于文本的问题都转换为文本到文本的生成问题。所涉及的任务，如分类、问答和翻译，都被定义为将文本输入到模型中，并训练其生成目标文本。

直观地说，事件检测可以表述为将一个句子映射到一个包含事件触发词和事件类型的事件序列。与普通文本序列不同，事件序列包含单词和标签的混合信息。一个最简单的策略就是直接将事件类型和触发词连在一起，模型的目标就是生成一个同时包含事件类型和触发词的序列。然而，这要求解码器必须在同一个语义空间中处理两种异构信息（即事件类型和触发词）。此外，在解码触发词时，包含所有触发词的词典很大，而触发词的密度稀疏。这些问题在有足够多的训练数据时可能并不严重。但是现有的事件抽取语料库通常缺乏训练数据，并且存在长尾问题，这给训练这种网络结构带来了重大挑战。

发明内容

本发明的目的在于解决背景技术中的至少一个技术问题，提供一种基于可回溯序列生成方法的事件检测方法、系统、电子设备和计算机可读存储介质。

为实现上述发明目的，本发明提供一种基于可回溯序列生成方法的事件检测方法，包括：

对作为训练文本的输入句子进行编码；

对编码后的输入句子计算Luong注意力，并根据计算出的注意力权重定位出输入句子中权重最大的单词；

对计算Luong注意力后的输入句子计算其中上下文向量；

根据所述上下文向量，对输入句子进行解码，每时刻解码出一个事件类型的名称；

根据解码结果、输入句子中包含的事件触发词、触发词触发的事件类型和预先定义的目标函数训练模型，得到事件监测模型；

将作为待测文本的输入句子输入所述事件监测模型得到事件检测结果。

根据本发明的一个方面，对作为训练文本的输入句子进行编码为：使用基于BERT和双向LSTM的编码器对输入句子进行编码。

根据本发明的一个方面，对编码后的输入句子计算Luong注意力，并根据计算出的注意力权重定位出输入句子中权重最大的单词为：

Luong注意力机制计算出t时刻对输入句子中第i个单词的初始注意力权重：

；