[发明专利]文本相似度计算方法、装置、计算机设备及存储介质在审
申请号: | 202210042501.0 | 申请日: | 2022-01-14 |
公开(公告)号: | CN114358210A | 公开(公告)日: | 2022-04-15 |
发明(设计)人: | 陈宇 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06F40/284;G06F40/211 |
代理公司: | 深圳中一联合知识产权代理有限公司 44414 | 代理人: | 李木燕 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 相似 计算方法 装置 计算机 设备 存储 介质 | ||
1.一种文本相似度计算方法,其特征在于,包括:
对至少两组待判别内容进行信息抽取,得到结构化字段信息;
基于目标Bert模型对所述结构化字段信息进行文本处理,获取所述目标Bert模型中N个目标编码层分别处理得到的词嵌入向量,其中,所述N个目标编码层中包含N-1个中间编码层及最后一层编码层;N为大于1的整数;
从每一所述词嵌入向量中分别抽取出CLS标志位的向量表示并对所述CLS标志位的向量表示进行拼接,得到目标向量表示;
基于所述目标向量表示对至少两组所述待判别内容进行相似度判别,得到所述待判别内容之间的相似度判别结果。
2.根据权利要求1所述的方法,其特征在于,所述对至少两组待判别内容进行信息抽取,得到结构化字段信息,包括:
分别对至少两组所述待判别内容进行文本内容抽取,得到目标文本数据;
将每组所述待判别内容分别对应的所述目标文本数据的末尾插入SEP句子分隔位,依照设定次序对插入有所述SEP句子分隔位的所述目标文本数据进行串接;
在串接后的所述目标文本数据所形成整体的首位插入CLS标志位,得到所述结构化字段信息。
3.根据权利要求1所述的方法,其特征在于,所述基于所述目标向量表示对至少两组所述待判别内容进行相似度判别,得到所述待判别内容之间的相似度判别结果,包括:
依照设定特征维度对每组所述待判别内容进行特征抽取,得到特征关键词;
对于不同的所述设定特征维度,分别对至少两组所述待判别内容的所述特征关键词进行相似度计算,得到每一所述设定维度下的特征相似度计算结果;
将所有所述设定维度下的所述特征相似度计算结果进行数组构造,得到与至少两组所述待判别内容对应的特征向量表示;
将所述特征向量表示与所述目标向量表示进行拼接,基于拼接后的向量表示对至少两组所述待判别内容进行相似度判别,得到所述待判别内容之间的相似度判别结果。
4.根据权利要求3所述的方法,其特征在于,所述对于不同的所述设定特征维度,分别对至少两组所述待判别内容的所述特征关键词进行相似度计算,得到每一所述设定维度下的特征相似度计算结果,包括:
对于不同的所述设定特征维度,分别对至少两组所述待判别内容的所述特征关键词进行编辑距离相似度计算得到第一相似度值及进行杰德卡相似度计算得到第二相似度值;
将每一所述设定维度下的所述第一相似度值及所述第二相似度值确定为所述特征相似度计算结果。
5.根据权利要求4所述的方法,其特征在于,所述将所有所述设定维度下的所述特征相似度计算结果进行数组构造,得到与至少两组所述待判别内容对应的特征向量表示,包括:
将所有所述设定维度下的所述第一相似度值及所述第二相似度值进行拼接形成目标数组,将所述目标数组确定为与至少两组所述待判别内容对应的特征向量表示。
6.根据权利要求1所述的方法,其特征在于,所述基于所述目标向量表示对至少两组所述待判别内容进行相似度判别,得到所述待判别内容之间的相似度判别结果,包括:
将所述目标向量表示输入至与所述目标Bert模型的输出端相连的全连接层中,结合设定的线性回归损失函数执行对至少两组所述待判别内容之间的相似度判别,得到所述相似度判别结果。
7.根据权利要求1所述的方法,其特征在于,所述基于目标Bert模型对所述结构化字段信息进行文本处理,获取所述目标Bert模型中N个目标编码层分别处理得到的词嵌入向量之前,还包括:
获取初始Bert模型,所述初始Bert模型中包括M层编码层;M大于N;
从所述初始Bert模型中剔除X个编码层,得到所述目标Bert模型;X为大于或等于1的整数,N+X<M。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210042501.0/1.html,转载请声明来源钻瓜专利网。