[发明专利]检索模型的训练方法、信息检索方法、装置、设备和介质在审
申请号: | 202310693790.5 | 申请日: | 2023-06-12 |
公开(公告)号: | CN116662512A | 公开(公告)日: | 2023-08-29 |
发明(设计)人: | 邢毅然;曲瑛琪;刘璟 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/33;G06N3/08 |
代理公司: | 北京市汉坤律师事务所 11602 | 代理人: | 姜浩然;吴丽丽 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 检索 模型 训练 方法 信息 装置 设备 介质 | ||
1.一种检索模型的训练方法,包括:
对至少一个第一样本段落进行切分,以得到多个分句;
将所述多个分句中的每一个分句作为样本查询,执行以下操作:
利用第一检索模型获取与所述样本查询匹配的第二样本段落;
响应于预设规则被满足,将所述样本查询所属的第一样本段落和所述第二样本段落分别作为所述样本查询的正例和负例以构造样本数据组,所述预设规则包括所述样本查询和所述第一样本段落的字面匹配程度大于所述样本查询和所述第二样本段落的字面匹配程度;以及
将所述样本数据组放入字面匹配训练集;以及
利用所述字面匹配训练集对不同于所述第一检索模型的第二检索模型进行训练,以得到经训练的第二检索模型。
2.根据权利要求1所述的方法,其中,所述预设规则包括所述样本查询和所述第一样本段落的字面匹配程度大于第一预设阈值。
3.根据权利要求2所述的方法,其中,所述字面匹配程度包括编辑距离。
4.根据权利要求1-3中任一项所述的方法,其中,所述预设规则包括所述样本查询和所述第二样本段落的语义匹配程度小于第二预设阈值。
5.根据权利要求1-4中任一项所述的方法,其中,所述预设规则包括所述第一样本段落和所述第二样本段落的长度均在预设长度范围内。
6.根据权利要求1-5中任一项所述的方法,其中,所述预设规则包括所述样本查询为用户查询日志中的真实查询文本。
7.根据权利要求1-6中任一项所述的方法,其中,所述第二检索模型包括查询子模型和段落子模型,其中,利用所述字面匹配训练集对不同于所述第一检索模型的第二检索模型进行训练,以得到经训练的第二检索模型包括:
将所述字面匹配训练集中的样本数据组中的样本查询输入所述查询子模型,以得到与该样本查询对应的第一嵌入向量;
将该样本数据组中的第一样本段落输入所述段落子模型,以得到与该第一样本段落对应的第二嵌入向量;
将该样本数据组中的第二样本段落输入所述段落子模型,以得到与该第二样本段落对应的第三嵌入向量;
基于所述第一嵌入向量和所述第二嵌入向量之间的第一相似度、所述第一嵌入向量和所述第三嵌入向量之间的第二相似度,计算损失值;以及
基于所述损失值,调整所述查询子模型和所述段落子模型的参数。
8.根据权利要求1-7中任一项所述的方法,其中,所述第二检索模型包括顺序连接的召回子模型和排序子模型,所述召回子模型和所述排序子模型均为大语言模型,
其中,利用所述字面匹配训练集对不同于所述第一检索模型的第二检索模型进行训练,以得到经训练的第二检索模型包括:
利用所述字面匹配训练集和基于语义的预训练任务对待训练的召回子模型进行预训练;
利用标注训练集对经预训练的召回子模型进行微调,以得到所述召回子模型,其中,所述标注训练集包括人工标注的匹配数据;
利用所述基于语义的预训练任务对待训练的排序子模型进行预训练;以及
利用所述字面匹配训练集和所述标注训练集对经预训练的排序子模型进行微调,以得到所述排序子模型。
9.一种信息检索方法,包括:
利用检索模型获取与用户的输入查询匹配的输出段落,其中,所述检索模型是利用权利要求1-8中任一项所述的方法进行训练而得到的。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310693790.5/1.html,转载请声明来源钻瓜专利网。