[发明专利]基于自注意力机制的中文命名实体识别方法、系统、装置

说明书

本发明属于自然语言处理技术领域，具体涉及一种基于自注意力机制的中文命名实体识别方法、系统、装置，旨在为了解决解决中文命名实体识别的准确度不能满足需求的问题。本发明方法包括：提取待识别语句的私有特征h¹、共有特征s¹；基于自注意力机制分别计算共有特征s¹、私有特征h¹对应的长距离依赖关系，获取基于依赖关系的私有特征h′¹、基于依赖关系的共有特征s′¹；通过任务分类器判断所述待识别语句是否为中文命名实体识别数据时将h′¹与s′¹进行拼接，获取融合后的中文命名实体识别数据特征h″¹，采用条件随即场对融合之后的特征h″¹进行标签预测。本发明有效地提高了中文命名实体识别的准确度。

技术领域

本发明属于自然语言处理技术领域，具体涉及一种基于自注意力机制的中文命名实体识别方法、系统、装置。

背景技术

随着互联网的蓬勃发展和日益普及，每个领域每天都会产生海量的信息，比如娱乐、体育等领域。由于这些信息的非结构性和无序性，如何帮助人们理解这些数据，快速的从海量的非结构化文本中识别出有用的信息，从而减轻人类的学习成本，是一件亟需解决的问题。信息抽取技术正式为了解决这个问题。

命名实体识别任务是信息抽取技术的重要环节，是信息抽取领域重要的基础任务和难点问题之一。其性能的好坏直接影响着下游自然语言处理任务的性能。其任务是从非结构化文本中自动识别出命名实体。常见的命名实体包括人物(Person，简称为PER)、地点(Location，简称为LOC)和组织机构(Organization，简称为ORG)等类别。该任务需要识别出实体的边界又要正确地预测出实体的类别。

传统的中文命名识别的方法主要基于特征工程，其依靠手工提取的特征来进行标签。主要的方法有隐马尔可夫模型(Hidden Markov Model，简称为HMM)，支持向量机(Support Vector Machine，简称为SVM)和条件随机场(Conditional Random Fields，简称CRF)等等。这些方法存在误差累积和传递等问题。随着深度学习的流行，基于神经网络的方法开始成为主流方法。然而这些方法需要大量的人工标注的数据作为训练样本。人工标注样本非常的费时费力。

发明内容

为了解决现有技术中的上述问题，即为了解决中文命名实体识别的准确度不能满足需求的问题，本发明的第一方面，提出了一种基于自注意力机制的中文命名实体识别方法，包括：

步骤S10，提取待识别语句的私有特征h¹，提取该待识别语句的中文命名实体识别数据和中文分词数据的共有特征s¹；

步骤S20，基于自注意力机制分别计算共有特征s¹之间的长距离依赖关系，以及私有特征h¹之间的长距离依赖关系；获取基于依赖关系的私有特征h′¹、基于依赖关系的共有特征S′¹；

步骤S30，基于共有特征S′¹，通过预先构建的任务分类器判断所述待识别语句是否为中文命名实体识别数据，若是则执行步骤S40；

步骤S40，将h′¹与s′¹进行拼接，获取融合后的中文命名实体识别数据特征h″¹；基于私有特征h″¹，采用条件随即场对融合之后的特征h″¹进行标签预测，输出所述待识别语句的中文命名实体识别结果。