[发明专利]一种信息检索方法、装置、电子设备及可读存储介质在审
申请号: | 202210233595.X | 申请日: | 2022-03-10 |
公开(公告)号: | CN114676218A | 公开(公告)日: | 2022-06-28 |
发明(设计)人: | 刘知远;孙茂松;刘洋 | 申请(专利权)人: | 清华大学 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F16/332;G06F16/35 |
代理公司: | 北京路浩知识产权代理有限公司 11002 | 代理人: | 胡程潇 |
地址: | 100084 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 信息 检索 方法 装置 电子设备 可读 存储 介质 | ||
1.一种信息检索方法,其特征在于,包括:
获取待查询语句;
基于预先训练的检索模型,输出与所述待查询语句具有文本对应关系的ID;
其中,所述检索模型是基于海量文本样本和ID训练得到的,且所述检索模型中存储有各所述海量文本样本与ID的文本对应关系。
2.根据权利要求1所述的信息检索方法,其特征在于,对所述检索模型进行预先训练的过程具体包括:
获取所述海量文本样本,利用预先训练的稠密向量模型将所有文本样本表示为稠密向量;
基于所述稠密向量,对所述海量文本样本进行聚类,以得到各文本样本对应的路径;
将聚类得到的路径转换为分别与各所述文本样本对应的ID;
基于所述海量文本样本和与所述海量文本样本对应的ID,对所述检索模型进行记忆训练。
3.根据权利要求2所述的信息检索方法,其特征在于,预先训练的稠密向量模型的训练过程具体包括:
确定查询语句q及与所述查询语句q相关的正例文本d;
在查询语料库中,随机采集负例文本
将所述查询语句q、所述正例文本d、所述文本输入预存的语言模型中进行训练,以得到所述稠密向量模型;
其中,n为正整数。
4.根据权利要求2所述的信息检索方法,其特征在于,基于所述稠密向量,对所述海量文本样本进行聚类,具体包括:
获取所述海量文本样本生成的稠密向量;
根据预设值x将所述稠密向量聚类为x个子类;
将新生成的x个子类中的每个子类再聚类成x个子类;
多次对子类进行聚类,直至新生成的每个子类中的文本数量少于所述预设值x;
其中,所述预设值x为正整数。
5.根据权利要求2所述的信息检索方法,其特征在于,将聚类得到的路径转换为分别与各所述文本样本对应的ID,具体包括:
根据聚类路径得到每层聚类的标号,并以各层聚类对应的标号组合作为初始ID;
基于待训练的检索模型对所述初始ID进行迭代优化,以生成与各所述文本样本对应的ID。
6.根据权利要求5所述的信息检索方法,其特征在于,以各层聚类对应的标号组合作为初始ID,之后还包括:
判定不同文本生成的初始ID相同,则利用预先训练的所述稠密向量模型将所述不同文本分别表示为稠密向量;
基于不同文本的稠密向量,对不同文本分别进行聚类,以得到各文本对应的路径;
将聚类得到的路径转换为分别与各文本对应的优化ID,并以所述优化ID分别作为各文本的初始ID。
7.根据权利要求2所述的信息检索方法,其特征在于,所述基于所述海量文本样本和与所述海量文本样本对应的ID,对所述检索模型进行记忆训练,具体包括:
将所述海量文本样本和与所述海量文本样本对应的ID输入预训练语言模型中;
通过所述预训练语言模型对所述检索模型进行记忆训练,以得到优化训练后的检索模型。
8.一种信息检索装置,其特征在于,包括:
获取模块,用于获取待查询语句;
查询输出模块,用于基于预先训练的检索模型,输出与所述待查询语句具有文本对应关系的ID;
其中,所述检索模型是基于海量文本样本和ID训练得到的,且所述检索模型中存储有各所述海量文本样本与ID的文本对应关系。
9.一种电子设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1至7任一项所述信息检索方法。
10.一种非暂态计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述信息检索方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学,未经清华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210233595.X/1.html,转载请声明来源钻瓜专利网。
- 信息记录介质、信息记录方法、信息记录设备、信息再现方法和信息再现设备
- 信息记录装置、信息记录方法、信息记录介质、信息复制装置和信息复制方法
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录设备、信息重放设备、信息记录方法、信息重放方法、以及信息记录介质
- 信息存储介质、信息记录方法、信息重放方法、信息记录设备、以及信息重放设备
- 信息存储介质、信息记录方法、信息回放方法、信息记录设备和信息回放设备
- 信息记录介质、信息记录方法、信息记录装置、信息再现方法和信息再现装置
- 信息终端,信息终端的信息呈现方法和信息呈现程序
- 信息创建、信息发送方法及信息创建、信息发送装置