[发明专利]一种文本命名实体识别方法与系统

说明书

本发明公开了一种文本命名实体识别方法与系统，方法包含以下步骤：获取已标注文本数据，并对已标注文本数据进行处理得到可输入数据增强模型的训练数据集；对已标注文本数据进行数据增强得到增强型已标注文本数据；将原有的已标注文本数据与增强型已标注文本数据整合为可输入模型进行训练的格式构成训练集和验证集；搭建模型并使用训练集和验证集进行模型训练；将待识别文本数据输入模型中，处理得到待识别文本数据中的实体集合数据；对实体集合数据进行清洗消除实体嵌套得到实体识别结果数据；系统包含数据处理模块、数据增强模块、数据整合模块、深度学习模型构建模块、实体识别模块、实体清洗模块。

技术领域

本发明涉及文本命名实体识别领域，具体涉及一种文本命名实体识别方法与系统。

背景技术

命名实体识别技术是指识别文本中具有特定意义的实体，实体主要包括人名、地名、机构名、时间等，命名实体识别技术是问答系统、句法分析、信息提取等的重要基础工具，被广泛应用在自然语言处理领域，目前命名实体识别技术存在以下几种实现方案：

1.基于规则和字典的方法：

该方法基于语言学的知识构建实体识别规则，将模式与字符串相匹配，抽取出文本中的实体，该方法是早期的命名实体识别方法，有着明确的优缺点，该方法的优点在于其逻辑简单、易于理解，并且在规则准确的前提下有极高的准确率，同时，该方法也有着明显的缺点，该方法的重点集中在实体识别规则的构建上，因此规则构建得准确与否是影响命名实体识别任务准确率的主要因素，而自然语言本身较为复杂，实体命名的规则受到语言、领域等因素的影响较大，难以总结出涵盖面较广并且排他性较强的规则，此外，该方法需要长时间构建、迭代知识库，成本较高；

2.基于传统机器学习模型的方法：

在命名实体识别领域常用的传统机器学习模型有：隐马尔可夫模型(HiddenMarkov Model,HMM)、条件随机场(Conditional Random Field,CRF)、支持向量机(SupportVector Machine,SVM)和最大熵模型(Maximum Entropy Model)。其中，条件随机场是目前在命名实体识别领域最常用的模型，其优势在于在实体识别的过程中可以用到上下文的信息，基于传统机器学习模型的方法对于特征选取有较高的要求，这个特点是该方法的难点和瓶颈；

3.基于深度学习模型的方法：

在神经网络发展起来后，深度学习模型也被用于NLP领域，包括命名实体识别技术、Textcnn、循环神经网络(Recurrent Neural Network,RNN)、长短时记忆神经网络(LongShort Term Memory Network,LSTM)等都在命名实体识别领域取得了良好的效果，一般先通过词向量模型，将文本转化为向量后，再搭建神经网络进行命名实体识别工作，该方法可以与CRF结合，以取得更好的效果；

4.基于预训练语言模型的方法：

该方法采用BERT等预训练语言模型，通过先验知识训练字向量，以达到比传统词向量(如word2vec、GloVe等)更好的嵌入效果；

5.利用span进行命名实体识别的方法：

该方法对命名实体识别领域通常使用的逐字判断的方法进行改进，改为对每个连续多个字组成的span进行判断，每个span包括：一句话中连续的若干个字、这组字在句子中的起始位置和结束位置以及这组字的长度，该方法先对文本分句，后对文本进行词嵌入，再取不同长度、不同位置的span，进行分类，可以采用BERT等预训练语言模型进行词嵌入，该方法的缺点为，选取span时会有选取到很多负样本(即不是实体的span)，大量的负样本会造成训练出的模型对实体判定的敏感性减弱，降低模型的准确率，同时，由于没有采取逐字分类的方法，该方法进行预测时，会有实体嵌套的问题。

发明内容