[发明专利]全文检索引擎中的数据传输方法、装置及设备和存储介质在审
申请号: | 202111447679.5 | 申请日: | 2021-11-30 |
公开(公告)号: | CN114328364A | 公开(公告)日: | 2022-04-12 |
发明(设计)人: | 胡德鹏;刘兵 | 申请(专利权)人: | 苏州浪潮智能科技有限公司 |
主分类号: | G06F15/173 | 分类号: | G06F15/173;G06F16/27 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 吴磊 |
地址: | 215100 江苏省苏州市吴*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 全文 检索 引擎 中的 数据传输 方法 装置 设备 存储 介质 | ||
1.一种全文检索引擎中的数据传输方法,其特征在于,所述全文检索引擎包括管理节点、协调节点和数据节点,所述数据节点包括用于存储数据的主数据节点和用于存储数据副本的副数据节点;
所述方法包括:
确定数据传输的源节点和目的节点,并在所述源节点中确定待传输的目标数据;
通过所述源节点的第一HCA卡将所述目标数据发送至所述目的节点中的第二HCA卡;其中,所述第一HCA卡和所述第二HCA卡均为使用RDMA协议的HCA卡。
2.根据权利要求1所述数据传输方法,其特征在于,所述确定数据传输的源节点和目的节点,并在所述源节点中确定待传输的目标数据,包括:
将所述主数据节点确定为源节点,将所述副数据节点确定为目的节点;
将所述主数据节点通过RDMA接口获取的数据确定为目标数据;其中,所述主数据节点通过RDMA接口获取所述目标数据后,存储所述目标数据。
3.根据权利要求1所述数据传输方法,其特征在于,所述全文检索引擎包括多个管理节点,所述确定数据传输的源节点和目的节点,并在所述源节点中确定待传输的目标数据,包括:
将第一管理节点确定为源节点,将第二管理节点确定为目的节点;
将所述第一管理节点中的元数据信息确定为待传输的目标数据。
4.根据权利要求2或3所述数据传输方法,其特征在于,所述通过所述源节点的第一HCA卡将所述目标数据发送至所述目的节点中的第二HCA卡之后,还包括:
为所述目标数据在所述目的节点的缓冲池中申请缓存空间,并将所述目标数据存储至所述缓存空间中;
利用RDMA技术将所述缓存空间中的所述目标数据存储至所述目的节点的磁盘Translog文件中。
5.根据权利要求4所述数据传输方法,其特征在于,将所述目标数据存储至所述缓存空间中之前,还包括:
判断所述缓存池中的数据量是否大于所述缓存池的总容量的预设比例;
若是,则清除所述缓存池中的部分数据;
若否,则执行将所述目标数据存储至所述缓存空间中的步骤。
6.根据权利要求5所述数据传输方法,其特征在于,所述清除所述缓存池中的部分数据,包括:
根据LRU算法计算所述缓存池中所有页面的权重,并按照所述权重由大至小的顺序对所述缓存池中所有页面进行排序;
基于排序结果从后向前清除所述缓存池中的页面,直至清除页面的数据量大于或等于所述目标数据的数据量。
7.根据权利要求1所述数据传输方法,其特征在于,所述协调节点用于接收客户端的搜索请求,并确定所述搜索请求对应的目标数据节点;
所述确定数据传输的源节点和目的节点,并在所述源节点中确定待传输的目标数据,包括:
将所述目标数据节点确定为源节点,将所述协调节点确定为目的节点;
将所述目标数据节点中所述搜索请求对应的搜索结果确定为待传输的目标数据。
8.一种全文检索引擎中的数据传输装置,其特征在于,所述全文检索引擎包括管理节点、协调节点和数据节点,所述数据节点包括用于存储数据的主数据节点和用于存储数据副本的副数据节点;
所述装置包括:
确定模块,用于确定数据传输的源节点和目的节点,并在所述源节点中确定待传输的目标数据;
发送模块,用于通过所述源节点的第一HCA卡将所述目标数据发送至所述目的节点中的第二HCA卡;其中,所述第一HCA卡和所述第二HCA卡均为使用RDMA协议的HCA卡。
9.一种电子设备,其特征在于,包括:
存储器,用于存储计算机程序;
处理器,用于执行所述计算机程序时实现如权利要求1至7任一项所述全文检索引擎中的数据传输方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述全文检索引擎中的数据传输方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州浪潮智能科技有限公司,未经苏州浪潮智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111447679.5/1.html,转载请声明来源钻瓜专利网。