[发明专利]一种搜索引擎的扩容方法、装置、电子设备及存储介质在审
申请号: | 202010911635.2 | 申请日: | 2020-09-02 |
公开(公告)号: | CN112182328A | 公开(公告)日: | 2021-01-05 |
发明(设计)人: | 李达;林乐彬;王学武 | 申请(专利权)人: | 北京三快在线科技有限公司 |
主分类号: | G06F16/951 | 分类号: | G06F16/951;G06F16/9532;G06F16/958;H04L12/741 |
代理公司: | 北京润泽恒知识产权代理有限公司 11319 | 代理人: | 任亚娟 |
地址: | 100083 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 搜索引擎 扩容 方法 装置 电子设备 存储 介质 | ||
本申请提供了一种搜索引擎的扩容方法、装置、电子设备及存储介质,该方法包括:确定索引数据分片的扩容数量;根据索引数据分片的扩容数量,对预先创建的第一路由表进行扩容,得到扩容后的第一路由表;根据扩容后的第一路由表中存储的分片标识与节点标识之间的对应关系,确定扩容后的各个索引数据分片的分片标识对应的节点标识;对于每一扩容后的索引数据分片,将该扩容后的索引数据分片存储到目标索引节点中,目标索引节点的节点标识为该扩容后的索引数据分片的分片标识对应的节点标识。通过本申请实施例提供的技术方案,可以降低搜索引擎系统的成本。并且,在用户终端无感知的情况下,实现了索引数据分片的扩容。
技术领域
本申请涉及搜索技术领域,特别是涉及一种搜索引擎的扩容方法、装置、电子设备及存储介质。
背景技术
传统的搜索引擎的索引数据都是存储于本地,但是随着搜索引擎的索引数据的增加,本地无法存储全部的索引数据。
通常情况下,通过将索引数据进行分片的方式来解决这一问题。具体的,可以将索引数据切分为多个索引数据分片,并将不同的索引数据分片分布在不同索引节点上,即把索引数据分摊到多台索引节点上。
随着索引数据的增加,会对索引数据分片进行扩容,举例而言,原来索引数据被切分为2个索引数据分片,现在需要将索引数据切分为4个索引数据分片。相关技术中,在存储扩容后的索引数据分片时,通常采用的方法是:创建一个用于存储扩容后的索引数据分片的新集群。相关技术中通过创建新集群来存储扩容后的索引数据分片的方式,存在搜索引擎系统冗余成本高的问题。
发明内容
为解决相关技术中通过创建新集群来存储扩容后的索引数据分片的方式,存在搜索引擎系统冗余成本高的问题,本申请示出了一种搜索引擎的扩容方法、装置、电子设备及存储介质。
第一方面,本申请实施例提供了一种搜索引擎的扩容方法,所述方法包括:
确定索引数据分片的扩容数量;
根据所述索引数据分片的扩容数量,对预先创建的第一路由表进行扩容,得到扩容后的第一路由表,所述第一路由表存储有索引数据分片的分片标识与索引节点的节点标识之间的对应关系;
根据所述扩容后的第一路由表中存储的分片标识与节点标识之间的对应关系,确定扩容后的各个索引数据分片的分片标识对应的节点标识;
对于每一扩容后的索引数据分片,将该扩容后的索引数据分片存储到目标索引节点中,所述目标索引节点的节点标识为该扩容后的索引数据分片的分片标识对应的节点标识。
可选的,所述基于索引数据分片的扩容数量,对所述第一路由表进行扩容,得到扩容后的第一路由表,包括:
确定扩容后索引数据分片的数量与扩容前索引数据分片的数量之间的倍数;
将所述第一路由表扩容所述倍数,得到扩容后的第一路由表。
可选的,所述基于索引数据分片的扩容数量,对所述第一路由表进行扩容,得到扩容每个索引数据分片包括多个索引数据块;
所述对于每一扩容后的索引数据分片,将该扩容后的索引数据分片存储到目标索引节点中,包括:
对于每一扩容后的索引数据分片,启动节点标识为该扩容后的索引数据分片对应的目标索引节点,所述目标索引节点的节点标识为该扩容后的索引数据分片的分片标识对应的节点标识;
对于每一扩容后的索引数据分片,将该扩容后的索引数据分片包括的目标索引数据块存储到所述目标索引节点;
删除扩容前索引节点中存储的所述目标索引数据块。
可选的,所述基于索引数据分片的扩容数量,对所述第一路由表进行扩容,得到扩容在所述删除扩容前索引节点中存储的所述目标索引数据块之后,所述方法还包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京三快在线科技有限公司,未经北京三快在线科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010911635.2/2.html,转载请声明来源钻瓜专利网。