[发明专利]一种基于路径扩展的非连续实体识别方法

说明书

本发明提出了一种基于路径扩展的非连续实体识别方法，对文本序列使用Transformer‑1编码器编码；将Transformer‑1编码器的输出通过一层线性映射层映射为实体首字符判别向量，并使用softmax函数得到字符标签预测值，以获得实体首字符的索引值；针对预测的每个实体首字符，将其对应的Transformer‑1编码器输出向量与其后字符的Transformer‑1编码器输出向量拼接，使用Transformer‑2编码器进行编码，接着通过一层线性映射层映射为实体尾字符判别向量，并使用softmax函数得到字符标签预测值，以获得对应实体首字符的实体尾字符索引值；针对每对实体首字符和实体尾字符区间字符使用路径扩展方法，得到实体表示的路径；解码获得的实体表示路径，得到识别出的实体。本发明避免了解码模糊性问题，提高了识别的准确率。

技术领域

本发明涉及自然语言处理技术，具体涉及一种基于路径扩展的非连续实体识别方法。

背景技术

实体识别是自然语言处理中的一项基本任务，其目的是从文本中检测出实体的边界并划分实体类别。目前，大多数方法将实体识别形式化为序列标注任务。然而，这些方法难以解决非连续、嵌套等不规则实体识别问题。

近年来，主流的非连续实体识别方法主要包括：字符级方法和句子级方法。字符级方法依然基于序列标注架构，将BIO标签扩展为更复杂的标签来表示非连续实体。例如，文献[1]引入BH、IH、BD和ID等四个标签以表示非连续实体。句子级方法将句子建模为一个整体结构来构建更有效的推理系统，以整体预测句子中的实体^[2]。例如，文献[3]提出使用超图将字符表示为图中不同类型的节点，使用图中两点之间的路径表示句子中的非连续实体。但是上述方法在最后的解码阶段都会遭受一定程度的模糊性(对应多种解码结果)，导致无法准确识别非连续实体^[4]。

[1]Metke-Jimenez A,Karimi S.Concept Identification and Normalisationfor Adverse Drug Event Discovery in Medical Forums[C]//THE FIRSTINTERNATIONAL WORKSHOP ON BIOMEDICAL DATA INTEGRATION AND DISCOVERY.2016.

[2]Muis A O，Lu W.Learning to Recognize Discontiguous Entities[J].2018.

[3]Lu W,Roth D.Joint mention extraction and classification withmention hypergraphs[C]//Proceedings of the 2015Conference on EmpiricalMethods in Natural Language Processing.2015:857-867.

[4]Dai X,Karimi S,Hachey B,et al.An Effective Transition-based Modelfor Discontinuous NER[C]//Proceedings of the 58th Annual Meeting of theAssociation for Computational Linguistics.2020.

发明内容

本发明的目的在于提出一种基于路径扩展的非连续实体识别方法，以解决非连续实体识别因解码模糊性造成的识别精度不高等问题。

实现本发明目的的技术解决方案为：一种基于路径扩展的非连续实体识别方法，具体步骤如下：

步骤1，对文本序列使用Transformer-1编码器编码；

步骤2，将Transformer-1编码器的输出通过一层线性映射层映射为实体首字符判别向量，并使用softmax函数得到字符标签预测值，以获得实体首字符的索引值；