[发明专利]一种识别文件中的命名实体的方法和装置在审
申请号: | 202211026223.6 | 申请日: | 2022-08-25 |
公开(公告)号: | CN115470790A | 公开(公告)日: | 2022-12-13 |
发明(设计)人: | 罗玉杰 | 申请(专利权)人: | 北京字跳网络技术有限公司 |
主分类号: | G06F40/295 | 分类号: | G06F40/295;G06F40/30;G06F40/242;G06N3/08 |
代理公司: | 北京亿腾知识产权代理事务所(普通合伙) 11309 | 代理人: | 陈霁 |
地址: | 100190 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 识别 文件 中的 命名 实体 方法 装置 | ||
1.一种识别文件中的命名实体的方法,包括:
获取第一文件;基于预先构建的命名实体词典,获取对于第一文件中的命名实体的第一预测结果;所述命名实体词典,通过结合多个预训练模型对于包括实体词的样本语句进行命名实体识别的识别结果生成。
2.根据权利要求1所述的方法,还包括:
基于预先训练的第一预测模型,获取对于第一文件中的命名实体的第二预测结果;
结合第一和第二预测结果,确定对于第一文件中的命名实体的第三预测结果。
3.根据权利要求2所述的方法,还包括:
根据预先制定的正则表达式,确定对于第一文件中的命名实体的第四预测结果;
结合第一和第二预测结果,确定对于第一文件中的命名实体的第三预测结果,包括:
结合第一、第二和第四预测结果,确定对于第一文件中的命名实体的第三预测结果。
4.根据权利要求3所述的方法,其中,
所述命名实体包括第一类命名实体和第二类命名实体,
基于预先构建的命名实体词典,获取对于第一文件中的命名实体的第一预测结果,所述基于预先训练的第一预测模型,获取对于第一文件中的命名实体的第二预测结果,包括:
基于预先构建的命名实体词典,获取对于第一类命名实体的第一预测结果;基于预先训练的第一预测模型,获取对于第一类命名实体的第二预测结果;
所述根据预先制定的正则表达式,确定对于第一文件中的命名实体的第四预测结果,包括:
根据预先制定的正则表达式,确定对于第二类命名实体的第四预测结果。
5.根据权利要求4所述的方法,其中,
所述第一类命名实体包括预定种类实体的名称;
所述第二类命名实体包括具有预定文本模式的实体词。
6.根据权利要求2所述的方法,其中,
所述第一预测模型,包括BERT子模型和条件随机场子模型;
基于预先训练的第一预测模型,获取对于第一文件中的命名实体的第二预测结果,包括:
对所述第一文件进行分词,获取词序列;
将所述词序列输入BERT子模型,获取词序列中各个词的语义向量;
将所述语义向量输入条件随机场子模型,获取第一识别结果,所述第一识别结果用于确定所述语义向量对应的词是否用于表示命名实体。
7.根据权利要求1所述的方法,其中,所述命名实体词典,通过结合多个预训练模型对于包括实体词的样本语句进行命名实体识别的识别结果生成,包括,所述命名实体词典通过如下步骤生成:
获取多种语言的实体词,构建包含所述实体词的样本语句;
将所述样本语句输入多个预训练模型中,获取对于所述样本语句中的命名实体的多个识别结果;
根据所述多个识别结果,确定所述样本语句中的命名实体;将所述命名实体加入所述命名实体词典。
8.根据权利要求7所述的方法,其中,所述多个预训练模型包括以下模型中的至少两个:
基于RoBERTa模型的第一预训练模型,
基于Distill BERT模型的第二预训练模型,
基于跨域语言模型的第三预训练模型。
9.根据权利要求6所述的方法,其中,根据所述多个识别结果,确定所述样本语句中的命名实体,包括:
在所述多个识别结果中均包括第一待定实体时,确定第一待定命名实体为命名实体;或
在所述多个识别结果中超过预定数量的识别结果中包括第一待定实体时,确定第一待定实体为命名实体。
10.根据权利要求1所述的方法,其中,所述第一文件包括简历文件。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京字跳网络技术有限公司,未经北京字跳网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211026223.6/1.html,转载请声明来源钻瓜专利网。