[发明专利]一种基于词序加权的句子相似度计算方法有效

专利信息
申请号: 201810217211.9 申请日: 2018-03-16
公开(公告)号: CN108509415B 公开(公告)日: 2021-09-24
发明(设计)人: 王清琛;沈盛宇 申请(专利权)人: 南京云问网络技术有限公司
主分类号: G06F40/216 分类号: G06F40/216;G06F40/289
代理公司: 暂无信息 代理人: 暂无信息
地址: 211100 江苏省南*** 国省代码: 江苏;32
权利要求书: 查看更多 说明书: 查看更多
摘要: 发明提供了一种基于词序加权的句子相似度计算方法。包括:获取形式为Label1i,Sen1i语料集A,训练得出语料集A中所有词语的词向量模型;构建形式为Label2j,Sen2j的测试语料集B,采用增量训练方式获得语料集B中Sen2j所有词语的词向量模型;根据语料集B所获取的词向量模型采用词序加权方式获取语句Sen1i和Sen2j的句向量SenVec1i和SenVec2j;逐一计算一条Sen2j与每个语句Sen1i的相似度,将相似度最高的语句Sen1i对应的Label1i与Label2j比较,一致则正确,否则以Sen1i,Sen2j存储至训练语料集C;将训练语料集C进一步处理获取新的词向量模型,以进行下次语句的相似度计算。通过上述步骤提高了句子相似度计算的准确率。
搜索关键词: 一种 基于 词序 加权 句子 相似 计算方法
【主权项】:
1.一种基于词序加权的句子相似度计算方法,其特征在于,包括以下步骤:1)利用网络爬虫获取语料集A,根据语义对语料集A中的所有语句添加分类标签,得到型如语料,其中Sen1i为语料集A中的单句语句,Label1i为Sen1i对应的类别标签,然后利用Word2Vec算法,训练得出语料A中所有词语的词向量模型;2)利用步骤1)中获取的语料集A,构建测试语料集B,测试语料集B中形式为,其中Label2j为语料集A中的一类别,Sen2j属于Label2j类别且与Label2j类别在语料集A中所对应的语句语义相似,然后结合步骤1)中获取的词向量模型采用增量训练方式,利用Word2Vec算法获得语料集B中所有词语的词向量模型;3)从步骤1)中语料集A中取得一对,对Sen11进行分词处理,并利用步骤2)中所获取的词向量模型取得每个对应分词结果的词向量V1k,k表示词语位于语句Sen11中的位置;4)根据步骤3)中获取的语句Sen11中每个词语对应的词向量V1k,以及每个词语位于Sen11中的位置,计算每个词语的词序权重值weight,并根据词向量V1k和对应的词序权重值weight获取新的带权重的词向量V1k’;5)根据步骤4)中获得的带权重的词向量V1k’获取语句Sen11的句向量SenVec11;6)重复步骤3)至5),计算语料集A中所有句子的句向量SenVec1i;7)重复步骤3)至5),计算语料集B中所有句子的句向量SenVec2j;8)根据步骤6)和步骤7)获取的句向量,依次选取测试语料集B中的语句Sen2j及其对应的句向量SenVec2j,分别计算其与语料集A中每个语句Sen1i的相似度,选取相似度排序最高的语句Sen1i对应的Label1i与Label2j比较,若一致则表示正确,否则则将结果以存储至训练语料集C;9)将步骤8)中获得的训练语料集C按照SemEval‑2017的相似度标注,然后采用LSTM回归模型训练获取新的词向量,利用新训练的词向量更新步骤2)中的词向量模型,然后执行步骤3),进行下一次语句的相似度计算。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京云问网络技术有限公司,未经南京云问网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/patent/201810217211.9/,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top