[发明专利]命名实体语料标注训练系统

说明书

本发明公开的一种命名实体语料标注训练系统，旨在提供一种能够提高命名实体识别的准确率、正确率、召回率的命名实体识别的半自动化标注训练装置。本发明通过下述技术方案予以实现：命名实体语料标注准备模块在标注过程中提供可选择适用的标注算法；半自动化语料命名实体标注模块自主选择适配算法并开展自动标注，基于命名实体提取算法中至少一个命名实体抽取算法，对待标注文本语料数据进行单一命名实体的预标注处理；当标注任务完成后，反馈式模型学习训练模块使用标注语料对命名实体模型进行训练，自动反馈调整完成新的命名实体标注任务；命名实体标注模型效果评估模块对模型指标量化标注效果进行评估，根据评估结果推荐默认最适算法模型。

技术领域

本发明涉及训练语料和应用的文本挖掘技术领域，尤其涉及命名实体语料半自动化标注训练方法和装置。

背景技术

近年来，基于神经网络的深度学习方法在计算机视觉、语音识别等领域取得了巨大成功，另外在自然语言处理领域也取得了不少进展。在NLP的关键性基础任务—命名实体识别（Named Entity Recognition，NER）的研究中，深度学习也获得了不错的效果。但对于深度学习方法，一般需要大量标注语料，否则极易出现过拟合，无法达到预期的泛化能力。伴随大数据采集获取手段的高速发展，从数据中挖掘最大化价值变得尤为急迫，这对大数据的智能化分析提出了全新需求。其技术底层使用的模型算法更多需要依赖于大量的数据标注语料作为基础训练支撑。海量数据语料标注工作对算法模型的训练有着重要影响，同时作为大数据分析过程中的基础性工作，主要支撑了大数据日常研发、算法调优、演示验证等环节，是大数据挖掘分析的核心基础。命名实体识别（NER）是在自然语言处理中的一个经典问题，其应用也极为广泛。比如从一句话中识别出人名、地名，从电商的搜索中识别出产品的名字，识别药物名称等等。传统的公认比较好的处理算法是条件随机场（CRF），它是一种判别式概率模型，是随机场的一种，常用于标注或分析序列资料，如自然语言文字或是生物序列。命名实体识别是自然语言处理研究领域中的一项很重要的基础性任务。命名实体识别NER，又称作“专名识别”，是指识别文本中具有特定意义的实体，应用范围非常广泛。命名实体一般指的是文本中具有特定意义或者指代性强的实体，通常包括人名、地名、机构名、组织机构名、日期时间、专有名词等。NER系统就是从非结构化的输入文本中抽取出上述实体，并且可以按照业务需求识别出更多类别的实体，比如产品名称、型号、价格等。因此实体这个概念可以很广，只要是业务需要的特殊文本片段都可以称为实体。序列标注问题如中文分词、命名实体识别，分类问题如关系识别、情感分析、意图分析等，均需要标注数据进行模型训练。从自然语言处理的流程来看，NER可以看作词法分析中未登录词识别的一种，是未登录词中数量最多、识别难度最大、对分词效果影响最大问题。同时NER也是关系抽取、事件抽取、知识图谱、机器翻译、问答系统等诸多NLP任务的基础。与其他信息检索领域相比，实体命名评测预料较小，容易产生过拟合；命名实体识别更侧重高召回率，但在信息检索领域，高准确率更重要；通用的识别多种类型的命名实体的系统性能很差。命名实体中的汉语和英语相比，汉语命名实体识别任务更加复杂，而且相对于实体类别标注子任务，实体边界的识别更加困难。同时，目前领域内命名实体语料相对匮乏，且命名实体语料标注工作目前主要通过人工标注来完成，广泛存在语料标注质量差、标注过程繁琐、标注效率低、人力资源成本高等问题。因此，迫切需要一套能够辅助人工标注语料的半自动命名实体标注和训练平台来解决以上问题。