[发明专利]一种确定相似文本的数据处理系统有效
申请号: | 202210935521.0 | 申请日: | 2022-08-05 |
公开(公告)号: | CN115017269B | 公开(公告)日: | 2022-10-25 |
发明(设计)人: | 刘羽;傅晓航;林方;常鸿宇 | 申请(专利权)人: | 中科雨辰科技有限公司 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F16/335 |
代理公司: | 北京锺维联合知识产权代理有限公司 11579 | 代理人: | 安娜 |
地址: | 100093 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 确定 相似 文本 数据处理系统 | ||
1.一种确定相似文本的数据处理系统,其特征在于,所述系统包括:数据库、处理器和存储有计算机程序的存储器,其中,所述数据库中包括预设实体向量集合和初始文本列表,当所述计算机程序被处理器执行时,实现以下步骤:
S100,从初始文本列表中获取目标文本和目标文本对应的关键文本列表A={A1,……,Aj,……,An},Aj为目标文本对应的第j个关键文本,j=1……n,n为目标文本对应的关键文本数量;
S200,根据预设实体向量集合,获取目标文本对应的第一文本编码向量B和目标文本对应的第一实体编码向量列表C={C1,……,Cr,……,Cs},Cr为目标文本对应的第r类实体类型的第一实体编码向量,r=1……s,s为目标文本的实体类型数量,其中,B=(B1,……,Bx,……,Bp),Bx为目标文本对应的第一文本编码向量中第x位的bit值;x=1……p,p为第一文本编码向量的维度;
S300,根据预设实体向量集合,获取Aj对应的第二文本编码向量B0j和Aj对应的第二实体编码向量列表C0j={C0j1,……,C0jg,……,C0jz},C0jg为Aj对应的第g类实体类型的第二实体编码向量,g=1……z,z为Aj的实体类型数量;
S400,当C中不存在C0jg对应的实体类型时,对C进行处理,获取到目标文本对应的第一目标编码向量列表D={B,D1,……,Dt,……,Dk},Dt为目标文本对应的第t个初始实体类型的第一目标编码向量,t=1……k,k为目标文本对应的初始实体类型的数量;在S400步骤中还包括如下步骤:
S401,当q≠p时,将C0jg对应的实体类型与Ua0对应的实体类型进行比对;
S403,当C0jg对应的实体类型与Ua0对应的实体类型一致时,将C0jg=Ua0且将C0jg插入至D中;
S405,当C0jg对应的实体类型与Ua0对应的实体类型不一致时,将C0jg=E0且将C0jg插入至D中,其中,E0为随机生成的一个q维度的实体向量;
S407,当q=p时,将C0jg=B且将C0jg插入至D中;
S500,当C0j中不存在Cr对应的实体类型时,对C0j进行处理,获取到Aj对应的第二目标编码向量列表Dj={B0j,Dj1,……,Djt,……,Djk},Djt为Dt对应的Aj的第二目标编码向量;
S600,根据D和Dj,获取目标文本对应的相似度Fj,其中,Fj符合如下条件:
,其中,Dtβ为Dt对应的向量中第β位bit值,Djtβ为Djt对应的向量中第β位bit值,β=1……q,q为第二目标编码向量的向量维度;
S700,当Fj≥F0时,确定目标文本与Aj为相似文本,其中,F0为预设的相似度阈值;
S800,当Fj<F0时,确定目标文本与Aj不为相似文本。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中科雨辰科技有限公司,未经中科雨辰科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210935521.0/1.html,转载请声明来源钻瓜专利网。