[发明专利]一种基于组合神经网络的老挝语命名实体识别方法

权利要求书

1.一种基于组合神经网络的老挝语命名实体识别方法，其特征在于：包括如下步骤：

Step1、将老挝语命名实体语料预处理后进行数据集划分，训练集占90％，测试集占10％；

Step2、将Step1预处理好的老挝语句子序列中的字符通过Bi-LSTM模型进行编码，输出字符向量；

Step3、将获得的字符向量序列进行切片分段，作为Bi-RNN的初始输入，通过前向循环神经网络和后向循环神经网络获得输出向量，连接构成片段内部单元的信息表示向量；

Step4、对片段通过lookup操作，从片段向量表中获得该片段的整体向量表示；

Step5、片段相关的其他特征向量包含片段上文切片分段相关信息和片段本身长度信息的特征，处理当前片段时，对于前文切分产生的片段通过查询片段向量表获得前一个切分片段的向量表示；

Step6、将片段的内部信息表示向量、整体向量和其他特征向量拼接作为特征输入到神经网络模型中，进行老挝语命名实体识别训练。

2.根据权利要求1所述基于组合神经网络的老挝语命名实体识别方法，其特征在于：所述方法的具体步骤为：所述步骤Step1中，数据通过老挝语留学生手动标注的老挝语语料进行训练，在30万字老挝语语料中，将90％作为训练集，10％作为测试集，其中将训练集的句子转化为“训练集句子-片段标记序列”作为模型输入的训练数据集，测试集是不包含任何切分信息的老挝语句子。

3.根据权利要求2所述基于组合神经网络的老挝语命名实体识别方法，其特征在于：所述步骤Step2中，使用的Bi-LSTM模型来自google开发的tensorflow深度学习框架，将Step1预处理好的句子序列x中的字符x_i输入Bi-LSTM模型，输出向量C_i。

4.根据权利要求3所述基于组合神经网络的老挝语命名实体识别方法，其特征在于：所述步骤Step3中，使用的Bi-RNN模型来自google开发的tensorflow深度学习框架，切分片段s_j获得的字符向量序列C进行切片分段，作为Bi-RNN模型的初始输入，通过模型的前向循环神经网络和后向循环神经网络获得输出向量，连接构成片段s_j内部单元的信息表示向量E_unitj。

5.根据权利要求4所述基于组合神经网络的老挝语命名实体识别方法，其特征在于：所述步骤Step4中使用的lookup操作为lookup函数，对于当前片段s_j，通过lookup操作从片段向量表中获得该片段整体向量表示E_segj，若当前片段在片段向量表中不存在，则选取特殊符号“UNKSEG”的向量表示，“UNKSEG”的初始值选取随机值。

6.根据权利要求5所述基于组合神经网络的老挝语命名实体识别方法，其特征在于：所述步骤Step5中，片段相关的其他特征向量表示F_extendj主要是包含片段上文切分片段相关信息和片段本身长度信息的特征，处理当前片段时，对于前文切分产生的片段通过查询片段向量表获得前一个切分片段的向量表示，若片段向量表中不存在查询的片段，则选用特殊符号“UNKPSEG”的向量表示，“UNKPSEG”取随机值初始化，片段长度特征信息通过查询片段长度特征表获得，每个长度值对应唯一的长度表示向量，初始向量值为随机值。

7.根据权利要求6所述基于组合神经网络的老挝语命名实体识别方法，其特征在于：所述步骤Step6中，使用Step3得到的片段内部信息表示向量、Step4获得的整体向量、Step5获得的其他特征向量进行拼接整合，作为提取出的老挝语命名实体识别特征，将特征输入到神经网络中进行训练，设置神经网络模型的超参数，初始学习率设置为η₀，并使用SGD算法进行优化，训练过程中的正则化方法采用dropout技术，最终使用测试集对完成训练的模型进行测试，完成老挝语的命名实体识别。