[发明专利]索引构建方法、装置、向量搜索方法及检索系统在审
申请号: | 202210406518.X | 申请日: | 2022-04-18 |
公开(公告)号: | CN114791966A | 公开(公告)日: | 2022-07-26 |
发明(设计)人: | 谢超;许维芷;程倩雅;易小萌 | 申请(专利权)人: | 上海徐毓智能科技有限公司 |
主分类号: | G06F16/901 | 分类号: | G06F16/901;G06F16/906;G06F16/903;G06F16/51;G06F16/55;G06F16/53;G06F16/31;G06F16/35;G06F16/33;G06F16/61;G06F16/65;G06F16/63;G06F16/71;G06F1 |
代理公司: | 上海华诚知识产权代理有限公司 31300 | 代理人: | 肖华 |
地址: | 200082 上海市杨*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 索引 构建 方法 装置 向量 搜索 检索系统 | ||
本申请涉及数据检索技术领域,公开了一种索引构建方法、装置、向量搜索方法及检索系统。其中,索引构建方法包括:确定目标向量以及目标向量所在的第一聚类集合,第一聚类集合具有对应的第一代表点;为第一聚类集合确定符合预设条件的至少一个第二代表点;分别建立目标向量与第一代表点和第二代表点之间的索引关联。基于上述方案,可以使得在后续进行向量检索的过程中,分别计算与第一代表点和第二代表点与查询向量之间的距离,以查询对应的目标聚类集合,以使得更加精确的获取查询向量对应的目标向量,能够有效避免由于聚类集合的中心点并不能完全表示聚类集合中的所有特征向量所引起的搜索精确度较低的问题,有效提高搜索精度。
技术领域
本申请涉及数据检索技术领域,特别涉及一种索引构建方法、装置、向量搜索方法及检索系统。
背景技术
随着数据的快速增长,数据检索广泛应用于图像、视频、语音、蛋白质分子结构检索等领域中,由于各种数据,例如图片数据等均可以被抽象为高维度的特征向量,因此数据之间的相似度可以被量化为向量空间中的特征向量之间的距离。例如,两个特征向量之间的距离越近,则该两个特征向量对应的原始数据的相似度越高。因此数据检索可以转化为在向量空间中的向量搜索,即将在数据库中搜索与待查询数据相似的若干个数据的过程,转化为在数据库中搜索距离待查询数据所对应的查询向量最近的若干个特征向量的过程。
目前,一些检索系统会为数据库构建倒排索引以便于用户检索。其中,倒排索引的构建方法为首先将数据库中各数据对应的各特征向量通过聚类处理,例如通过k-means聚类处理,把整个向量空间划分为若干个聚类集合,每个聚类集合具有对应的代表点,并将每个特征向量归入到距离自身最近的代表点所对应的聚类集合中。如此,在进行查询向量的检索时,系统将会根据查询向量与多个代表点的距离确定出与查询向量最近的代表点,并对该代表点所在的聚类集合中的所有的特征向量进行搜索,可以理解,对所有的特征向量进行搜索即是获取每个特征向量与查询向量之间的距离。然后将该聚类集合中与查询向量之间距离较近的若干个特征向量作为搜索结果。
但是,由于检索系统是确定与查询向量距离最近的代表点,然后仅仅将此代表点所在的聚类集合内与查询向量距离较近的若干个特征向量作为搜索结果,所以会存在,在其他代表点所在的聚类集合内,有与查询向量距离更近的若干个特征向量的情况,使得未获取到更加准确的查询向量的目标向量,导致检索结果的精确度较低。
发明内容
为解决向量检索方法检索结果的精确度较低的问题,本申请实施例提供了一种索引构建方法、装置、向量搜索方法及检索系统。
第一方面,本申请实施例提供了一种索引构建方法,包括:
确定目标向量以及所述目标向量所在的第一聚类集合,所述第一聚类集合具有对应的第一代表点;
为所述第一聚类集合确定符合预设条件的至少一个第二代表点;
分别建立所述目标向量与所述第一代表点和所述第二代表点之间的索引关联。
可以理解,本申请实施例提供的索引构建方法除了确定第一代表点之外,能够确定出距离各聚类集合的第一代表点比较远的至少一个第二代表点,即边缘点。如此,在进行检索的过程中,可以将查询向量与第一代表点和第二代表点的距离均进行比较,即考虑到了距离中心点较远的边缘点与查询向量之间的距离,避免出现现有技术中的由于目标向量为边缘点,而现有技术中心只考虑了与中心点的距离,导致未找到更加精确的目标向量的问题。即在查询过程中,分别计算与第一代表点和第二代表点与查询向量之间的距离,以查询对应的目标聚类集合,可以更加精确的获取查询向量对应的目标向量,能够有效避免由于前述由于聚类集合的代表点并不能完全表示聚类集合中的所有特征向量所引起的搜索精确度较低的问题,进而有效提高搜索精度。
可以理解,本申请实施例中所提及的第一聚类集合中的目标向量可以为第一聚类集合中的任一向量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海徐毓智能科技有限公司,未经上海徐毓智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210406518.X/2.html,转载请声明来源钻瓜专利网。