[发明专利]文本匹配模型训练方法、文本匹配方法、装置和电子设备在审
申请号: | 202010591487.0 | 申请日: | 2020-06-24 |
公开(公告)号: | CN113836885A | 公开(公告)日: | 2021-12-24 |
发明(设计)人: | 郎皓;孙健;李永彬 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06F40/194 | 分类号: | G06F40/194 |
代理公司: | 北京润泽恒知识产权代理有限公司 11319 | 代理人: | 钱秀茹 |
地址: | 英属开曼群岛大开*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 匹配 模型 训练 方法 装置 电子设备 | ||
1.一种文本匹配模型训练方法,其特征在于,所述方法包括:
基于已标注的样本集训练得到基础模型,所述样本集中的每个样本包括第一文本、第二文本和用于指示所述第一文本和所述第二文本是否匹配的标注,所述每个样本在训练所述基础模型过程中权重相等;
利用所述基础模型计算所述每个样本中第一文本与第二文本的相似度,并根据所述相似度计算每个样本的权重;
根据所述每个样本以及每个样本的权重,对所述基础模型进行训练,得到训练后的模型。
2.根据权利要求1所述的方法,其特征在于,所述样本集中的样本通过如下步骤生成:
获取包含多个文本的文本集;
随机从所述文本集中选取第一文本和第二文本;
确定用于指示所述第一文本和所述第二文本是否匹配的标注;
将所述第一文本、所述第二文本和所述标注所构成的三元组作为一个样本。
3.根据权利要求1所述的方法,其特征在于,所述根据所述相似度计算所述每个样本的权重,包括:
确定所述样本集中的正样本和负样本,所述正样本为第一文本与第二文本相匹配的样本,所述负样本为第一文本与第二文本不匹配的样本;
将所述样本集中的正样本的权重设置为与相似度呈负相关的数值,将所述样本集中的负样本的权重设置于与相似度呈正相关的数值。
4.根据权利要求1所述的方法,其特征在于,所述根据所述相似度计算所述每个样本的权重,包括:
确定所述样本集中的正样本和负样本,所述正样本为第一文本与第二文本相匹配的样本,所述负样本为第一文本与第二文本不匹配的样本;
将包含相同的第一文本的正样本组合为一个正样本组,将包含相同的第一文本的负样本组合为一个负样本组,按照文本的相似度的大小,分别对所述正样本组中的正样本以及所述负样本组中的负样本排序;
基于所述正样本组中的正样本的排序顺序,为所述正样本组中的正样本设置权重,并基于所述负样本组中的负样本的排序顺序,为所述负样本组中的负样本设置权重。
5.根据权利要求4所述的方法,其特征在于,所述基于所述正样本组中的正样本的排序顺序,为所述正样本组中的正样本设置权重,包括:
响应于所述正样本组中的正样本按照相似度由小到大的顺序排序,将所述正样本组中的正样本的权重设置为与排序顺序呈负相关的数值;
响应于所述正样本组中的正样本按照相似度由大到小的顺序排序,将所述正样本组中的正样本的权重设置为与排序顺序呈正相关的数值。
6.根据权利要求4所述的方法,其特征在于,所述基于所述负样本组中的负样本的排序顺序,为所述负样本组中的负样本设置权重,包括:
响应于所述负样本组中的负样本按照相似度由小到大的顺序排序,将所述负样本组中的负样本的权重设置为与排序顺序呈正相关的数值;
响应于所述负样本组中的负样本按照相似度由大到小的顺序排序,将所述负样本组中的负样本的权重设置为与排序顺序呈负相关的数值。
7.根据权利要求1所述的方法,其特征在于,所述根据所述相似度计算所述每个样本的权重,包括:
确定所述样本集中的正样本和负样本,所述正样本为第一文本与第二文本相匹配的样本,所述负样本为第一文本与第二文本不匹配的样本;
将包含相同的第一文本的正样本组合为一个正样本组,将包含相同的第一文本的负样本组合为一个负样本组,按照文本的相似度的大小,分别对所述正样本组中的正样本以及所述负样本组中的负样本排序;
分别为每个样本设置第一权重和第二权重,其中,正样本的第一权重与正样本中的第一文本与第二文本的相似度呈负相关,负样本的第二权重与负样本中的第一文本与第二文本的相似度呈正相关,正样本的第二权重基于在所属的正样本组中的排序顺序确定,负样本的第二权重基于在所属的负样本组中的排序顺序确定;
对每个样本的第一权重和第二权重进行加权求和,得到每个样本的权重。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010591487.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种天线及基站
- 下一篇:导向轮安装座及具有其的导向装置和轨道车辆