[发明专利]实体识别方法、装置、计算机可读介质及电子设备有效
申请号: | 202110471896.1 | 申请日: | 2021-04-29 |
公开(公告)号: | CN112988979B | 公开(公告)日: | 2021-10-08 |
发明(设计)人: | 杨韬 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F16/36;G06F40/295;G06N20/00 |
代理公司: | 深圳市隆天联鼎知识产权代理有限公司 44232 | 代理人: | 胡琳 |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 实体 识别 方法 装置 计算机 可读 介质 电子设备 | ||
1.一种实体识别方法,其特征在于,所述方法包括:
对待识别文本进行特征提取处理,以获得所述待识别文本中各个文字对应的字特征向量;
将所述各个文字对应的字特征向量输入实体识别模型,所述实体识别模型是根据训练样本中各个样本文字针对各个实体标签的第一输出概率和所述训练样本中各个样本分词针对各个实体类型的第二输出概率训练得到的;
所述实体识别模型对接收到的字特征向量进行运算,输出所述各个文字针对所述各个实体标签的第一预测概率;所述第一预测概率用于根据相应的权重确定所述各个文字对应的实体标签,所述第一预测概率相应的权重是得到第一预测概率的方式的准确率与得到第一预测概率的方式的准确率和得到第二预测概率的方式的准确率之和的占比;
所述实体识别模型根据接收到的字特征向量,转换得到所述待识别文本中各个分词对应的词特征向量,并对所述各个分词的词特征向量进行运算,输出各个分词针对所述各个实体类型的第二预测概率;所述第二预测概率用于根据相应的权重确定所述各个分词对应的实体类型,所述第二预测概率相应的权重是得到第二预测概率的方式的准确率与得到第一预测概率的方式的准确率和得到第二预测概率的方式的准确率之和的占比;
根据所述第一预测概率和所述第二预测概率,确定所述待识别文本的实体识别结果。
2.根据权利要求1所述的方法,其特征在于,根据所述第一预测概率和所述第二预测概率,确定所述待识别文本的实体识别结果,包括:
将所述各个文字针对所述各个实体标签的第一预测概率中的最大预测概率所对应的实体标签作为所述各个文字对应的目标实体标签,将所述目标实体标签指示为同一实体类型且位置连续的文字识别为同一个实体,得到所述待识别文本的第一实体识别结果;
将所述各个分词针对所述各个实体类型的第二预测概率中的最大预测概率所对应的实体类型作为所述各个分词对应的目标实体类型,根据所述各个分词对应的目标实体类型,确定所述待识别文本的第二实体识别结果;
合并所述第一实体识别结果以及所述第二实体识别结果,得到所述待识别文本的实体识别结果。
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:
将所述训练样本输入所述实体识别模型,得到所述实体识别模型的输出结果,所述输出结果中包含所述各个样本文字针对各个实体标签的第一输出概率和所述各个样本分词针对各个实体类型的第二输出概率;
根据所述各个样本文字对应的标注实体标签和所述第一输出概率构建第一损失函数,并根据所述各个样本分词对应的标注实体类型和所述第二输出概率构建第二损失函数;
根据所述第一损失函数和所述第二损失函数构建联合损失函数,基于所述联合损失函数训练所述实体识别模型,得到训练好的实体识别模型。
4.根据权利要求3所述的方法,其特征在于,根据所述各个样本文字对应的标注实体标签和所述第一输出概率构建第一损失函数,包括:
根据所述各个样本文字对应的标注实体标签,确定与所述标注实体标签相同的实体标签对应的第一输出概率;
将与所述标注实体标签相同的实体标签对应的第一输出概率,作为所述各个样本文字的目标概率;
根据所述各个样本文字的目标概率,构建所述第一损失函数。
5.根据权利要求4所述的方法,其特征在于,根据所述各个样本文字的目标概率,构建所述第一损失函数,包括:
对所述各个样本文字的目标概率进行对数运算,得到多个运算结果;
根据所述多个运算结果的运算结果之和,确定所述第一损失函数。
6.根据权利要求3所述的方法,其特征在于,根据所述各个样本分词对应的标注实体类型和所述第二输出概率构建第二损失函数,包括:
根据所述各个样本分词对应的标注实体类型,确定与所述标注实体类型相同的实体类型对应的第二输出概率;
将与所述标注实体类型相同的实体类型对应的第二输出概率,作为所述各个样本分词的目标概率;
根据所述各个样本分词的目标概率,构建所述第二损失函数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110471896.1/1.html,转载请声明来源钻瓜专利网。