[发明专利]一种命名实体识别方法、装置、电子设备及存储介质

权利要求书

1.一种命名实体识别方法，其特征在于，包括：

获取已知命名实体的中文文本并进行预处理，得到多个已知命名实体的文本向量；

基于已知命名实体的文本向量，对联合模型进行训练；所述联合模型包括字符识别模型、分词识别模型和序列标注模型；所述字符识别模型为预训练语言模型，用于对输入的文本向量提取字符特征，输出包含字符级语义信息的第一文本表示向量；所述分词识别模型为预训练语言模型，用于对输入的文本向量提取分词特征，输出包含词汇级和语法级语义信息的第二文本表示向量；所述序列标注模型用于基于融合后的所述第一文本表示向量和所述第二文本表示向量进行求解，得到标识文本向量的实体类别的第一序列；

获取待识别的中文文本并进行预处理，得到待识别的文本向量；

将待识别的文本向量输入训练后的所述联合模型，进行命名实体识别。

2.根据权利要求1所述的方法，其特征在于，

所述联合模型还包括规范化层，所述规范化层用于输入融合后的所述第一文本表示向量和所述第二文本表示向量，进行规范化处理后，输出至所述序列标注模型。

3.根据权利要求1所述的方法，其特征在于，

对于所述联合模型，融合所述第一文本表示向量和所述第二文本表示向量，包括：

对每个字符，将所述第一文本表示向量中表征该字符的特征和所述第二文本表示向量中表征该字符的特征拼接，作为融合后表征该字符的特征。

4.根据权利要求2所述的方法，其特征在于，

所述联合模型还包括分类器，所述分类器用于基于所述第二文本表示向量进行求解，得到标识文本向量的实体类别的第二序列；

所述对联合模型进行训练，包括：

将已知命名实体的文本向量输入所述联合模型，得到所述第一序列和所述第二序列；

确定已知命名实体的文本向量所对应的标准标注序列；

基于所述第一序列与标准标注序列的误差构建第一交叉熵损失函数，基于所述第二序列与标准标注序列的误差构建第二交叉熵损失函数，对所述第一交叉熵损失函数和所述第二交叉熵损失函数进行加权，构建所述联合模型的损失函数，其中所述第一损失函数对应的权重大于所述第二损失函数对应的权重；

基于所述联合模型的损失函数调整所述联合模型的参数。

5.根据权利要求4所述的方法，其特征在于，

所述字符识别模型采用BERT模型，所述分词识别模型采用ERNIE模型，所述序列标注模型采用线性链条件随机场。

6.一种命名实体识别装置，其特征在于，包括：

获取模块，用于获取已知命名实体的中文文本并进行预处理，得到多个已知命名实体的文本向量；

训练模块，用于基于已知命名实体的文本向量，对联合模型进行训练；所述联合模型包括字符识别模型、分词识别模型和序列标注模型；所述字符识别模型为预训练语言模型，用于对输入的文本向量提取字符特征，输出包含字符级语义信息的第一文本表示向量；所述分词识别模型为预训练语言模型，用于对输入的文本向量提取分词特征，输出包含词汇级和语法级语义信息的第二文本表示向量；所述序列标注模型用于基于融合后的所述第一文本表示向量和所述第二文本表示向量进行求解，得到标识文本向量的实体类别的第一序列；

处理模块，用于获取待识别的中文文本并进行预处理，得到待识别的文本向量；

识别模块，用于将待识别的文本向量输入训练后的所述联合模型，进行命名实体识别。

7.根据权利要求6所述的装置，其特征在于，

所述联合模型还包括规范化层，所述规范化层用于输入融合后的所述第一文本表示向量和所述第二文本表示向量，进行规范化处理后，输出至所述序列标注模型。