[发明专利]一种基于Bi‑LSTM的混合语料命名实体识别方法

权利要求书

1.一种基于Bi-LSTM的混合语料命名实体识别方法，其特征在于，包括以下步骤：

1)将原始混合语料数据OrgData转化为字符级的混合语料数据NewData；

2)统计NewData中的字符，得到字符集合CharSet，将每个字符进行编号，得到字符集合CharSet对应的字符编号集合CharID；统计NewData中字符的标签，得到标签集合LabelSet，将每个标签进行编号，得到标签集合LabelSet对应的标签编号集合LabelID；

3)将NewData按照句子长度对句子进行分组，得到包括n组句子的数据集合GroupData；

4)随机无放回的从GroupData的某组中抽取BatchSize句数据w，以及对应的标签y，并将抽取的数据w通过CharID转换为固定长度的数据BatchData，将对应的标签通过LabelID转换为固定长度的标签y_ID；

5)将数据BatchData及标签y_ID送入基于Bi-LSTM的深度学习模型，训练该深度学习模型的参数，当深度学习模型产生的损失值满足设定条件或者达到最大迭代次数N，则终止该深度学习模型的训练；否则采用步骤4)重新生成数据以训练该深度学习模型；

6)将待预测的数据PreData转换成与该深度学习模型匹配的数据PreMData，并将其送入训练好的该深度学习模型，得到命名实体识别结果OrgResult。

2.如权利要求1所述的方法，其特征在于，步骤1)包括：

1-1)将原始混合语料数据中的数据与标签分离，并对数据的每个词语进行字符级切分；

1-2)采用BMESO的标记方式对每个字符进行标记：设某个词对应的标签为Label，则位于该词语最开始的字符标记为Label_B，位于该词语中间的字符标记为Label_M，位于该词语末尾的词语标记为Label_E，若该词语只有一个字符则标记为Label_S，若该词语没有带标签或者不属于实体标签则标记为o。

3.如权利要求1所述的方法，其特征在于，步骤3)中，设l_i表示第i句话的句子长度，则将|l_i-l_j|＜δ的句子归入一组，其中δ表示句子长度间隔。

4.如权利要求1所述的方法，其特征在于，步骤4)包括：

4-1)将抽取到的数据w转换成数字，也即通过CharSet与CharID的对应关系，将w中的每个字符转换成对应的数字；

4-2)将抽取的数据w对应的标签y转换成数字，也即通过LabelSet与LabelID的对应关系，将y中的每个字符转换成对应的数字；

4-3)假设规定长度为maxLen，当抽取到的数据句子长度l＜maxLen时，将句子后面补maxLen-l个0，得到BatchData，并将w对应的标签y后面补maxLen-l个0，得到y_ID。

5.如权利要求1所述的方法，其特征在于，步骤5)所述基于Bi-LSTM的深度学习模型包括：

Embedding层，用于将输入的字符数据转换为向量；

Bi-LSTM层，包含若干正向和反向LSTM单元，用于提取字符间的语义关系；

Concatenate层，用于将正向和反向的LSTM单元提取到的语义信息拼接在一起；

DropOut层，用于防止模型过拟合。

SoftMax层，用于对每个字符进行分类。

6.如权利要求5所述的方法，其特征在于，步骤5)训练所述深度学习模型的步骤包括：

5-1)将传入的数据BatchData在Embedding层进行向量化，也即将数据BatchData中的每一条数据中的每个字符都通过一向量表Char2Vec转换成BatchVec；

5-2)将BatchVec传入Bi-LSTM层；

5-3)将正向和反向的每个LSTM单元的输出和传入Concatenate层；

5-4)将Concatenate层的输出传入DropOut层；

5-5)将DropOut的输出传入SoftMax层，并产生最终的损失值。