[发明专利]一种基于组合神经网络的老挝语命名实体识别方法

说明书

本发明公开了一种基于组合神经网络的老挝语命名实体识别方法，属于自然语言处理中小语种识别领域。首先利用Bi‑LSTM(双向长短期记忆模型)将老挝语句子序列进行编码，输出字符向量。之后将字符向量进行切片分段，输入到Bi‑RNN(双向循环神经网络)模型中，获得片段内部单元的信息表示向量。在此基础上使用lookup操作获取片段的整体向量表示，然后将获得的片段信息表示向量、整体向量、其他特征向量拼接作为特征输入到神经网络模型中，进行老挝语命名实体识别训练。本发明识别效果明显优于传统统计学习方法，并获得与当前其他最优的老挝语命名实体识别系统相当的识别性能。

技术领域

本发明涉及一种基于组合神经网络的老挝语命名实体识别方法，属于自然语言处理中小语种识别领域。

背景技术

命名实体识别(NER)是指从文本中识别出人名、地名和机构名等专有名词，是自然语言处理的关键技术之一，也是信息抽取、问答系统、句法分析、机器翻译等应用的重要基础工作。传统基于统计学习模型的命名实体识别方法严重依赖特征工程，特征设计需要大量人工参与和专家知识，而且已有的方法通常大多将中文命名实体识别任务看作一个字符序列标注问题，需要依赖局部字符标记区分实体边界。

发明内容

本发明要解决的技术问题是提供一种基于组合神经网络的老挝语命名实体识别方法，用于解决老挝语命名实体识别准确率不高等问题。

本发明采用的技术方案是：一种基于组合神经网络的老挝语命名实体识别方法，包括如下步骤：

Step1、将老挝语命名实体语料预处理后进行数据集划分，训练集占90％，测试集占10％；

Step2、将Step1预处理好的老挝语句子序列中的字符通过Bi-LSTM模型(双向长短期记忆模型)进行编码，输出字符向量；

Step3、将获得的字符向量序列进行切片分段，作为Bi-RNN(双向循环神经网络)的初始输入，通过前向循环神经网络和后向循环神经网络获得输出向量，连接构成片段内部单元的信息表示向量；

Step4、对片段通过lookup操作，从片段向量表中获得该片段的整体向量表示；

Step5、片段相关的其他特征向量包含片段上文切片分段相关信息和片段本身长度信息的特征，处理当前片段时，对于前文切分产生的片段通过查询片段向量表获得前一个切分片段的向量表示；

Step6、将片段的内部信息表示向量、整体向量和其他特征向量拼接作为特征输入到神经网络模型中，进行老挝语命名实体识别训练。

具体地，所述步骤Step1中，数据通过老挝语留学生手动标注的老挝语语料进行训练，在30万字老挝语语料中，将90％作为训练集，10％作为测试集，其中将训练集的句子转化为“训练集句子-片段标记序列”作为模型输入的训练数据集，测试集是不包含任何切分信息的老挝语句子。

具体地，所述步骤Step2中，使用的Bi-LSTM模型来自google开发的tensorflow深度学习框架，将Step1预处理好的句子序列x中的字符x_i输入Bi-LSTM模型，输出向量C_i。

具体地，所述步骤Step3中，使用的Bi-RNN模型来自google开发的tensorflow深度学习框架，切分片段s_j获得的字符向量序列C进行切片分段，作为Bi-RNN模型的初始输入，通过模型的前向循环神经网络和后向循环神经网络获得输出向量，连接构成片段s_j内部单元的信息表示向量E_unitj。