[发明专利]一种融合多特征的老挝语人名地名实体识别方法

说明书

本发明公开了一种融合多特征的老挝语人名地名实体识别方法，属于自然语言处理中小语种识别领域。本发明融合了老挝语人名和地名的语言特征，使用BLSTM+CRF的算法模型。首先利用BLSTM(双向长短时记忆网络)训练老挝词语的后缀、前缀等形态特征的字符级向量。之后使用Gensim的word2vec在较大规模的老挝语背景语料中，训练具有上下文语义特征信息的词向量，并将字符级特征向量和词向量拼接成完整特征向量。最后将老挝语人名地名语言学特征融合到CRF(条件随机场)算法中，再将完整的特征向量输入到最后一层CRF(条件随机场)中进行命名实体识别训练，得到了融合老挝语语言学特征的命名实体识别模型。本发明在老挝语人名地名实体词识别上精确度有较大提升。

技术领域

本发明涉及一种融合多特征的老挝语人名地名实体识别方法，属于自然语言处理中小语种识别领域。

背景技术

命名实体识别作为自然语言处理的一个重要基础任务，目前学术上主要以神经网络和传统的统计机器学习方法结合作为训练模型。因为相对比传统的统计机器学习方法可以省去人工提取特征的步骤，相对比基于规则的方法其更具有泛化性。因此目前学术中主流的命名实体识别的模型为BLSTM+CRF。虽然BLSTM+CRF在通用命名实体识别领域中展现出了较好的性能，但在老挝语命名实体识别领域中的应用仍存在人名地名识别率不高、模型欠拟合等问题。因为相比于一般领域的命名实体，老挝语命名实体识别有以下几个问题：(1)语料情况复杂，标注语料不充足；(2)语法等命名规则了解不充分；(3)在词性标注和分词较基础领域老挝语研究相对较少。

发明内容

本发明要解决的技术问题是提供一种融合多特征的老挝语人名地名实体识别方法，用于解决老挝语人名地名识别率不高、模型欠拟合等问题。

本发明采用的技术方案是：一种融合多特征的老挝语人名地名实体识别方法，其特征在于：包括以下步骤：

Step1：获取老挝语人名地名命名实体语料，进行语料预处理；

Step2：将BLSTM算法训练老挝语词语的后缀、前缀字符级向量；

Step3：对老挝语词语进行词向量转化，通过Gensim的word2vec模型，训练具有上下文语义的词向量；

Step4：将字符级向量和词向量进行组合拼接，得到完整的特征向量；

Step5：将老挝语人名地名多特征融合到CRF算法模型中，形成优化的CRF模型；

Step6：将Step4得到的完整特征向量输入到Step5得到的CRF优化模型进行老挝语人名地名实体词识别训练。

具体地，所述步骤Step2具体步骤如下：

Step2.1：建立BLSTM模型：使用TensorFlow深度学习框架，python程序语言进行BLSTM算法的编写；

Step2.2：设置模型参数：设置迭代次数为10000次，学习率设置为0.1、0.01、0.001三种，通过最后在训练集上体现的准确率，选择合适的学习率；

Step2.3：训练字符级向量：将老挝语词语进行字符切分，输入到BLSTM算法中进行训练。

具体地，所述步骤Step3具体步骤如下：

Step3.1：老挝语分词：通过老挝语分词工具，通过分词算法计算机会自动将老挝语句子切分成单词；

Step3.2：去除停用词：将老挝语停用词作成一个词典，将分词后的老挝语进行筛选；

Step3.3：训练词向量：首先安装Gensim包，调用Word2vec算法模型，将筛选后的老挝语词语作为输入，Word2vec算法将词语的频率和上下文信息进行训练，最终输出具有了上下文语义特征的词向量。