[发明专利]数据拖取的方法和装置有效

专利信息
申请号: 201410510419.1 申请日: 2014-09-28
公开(公告)号: CN104202435B 公开(公告)日: 2017-10-31
发明(设计)人: 王锋 申请(专利权)人: 北京奇虎科技有限公司;奇智软件(北京)有限公司
主分类号: H04L29/08 分类号: H04L29/08
代理公司: 北京智汇东方知识产权代理事务所(普通合伙)11391 代理人: 康正德,孙晓芳
地址: 100088 北京市西城区新*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要: 发明提供了一种数据拖取的方法和装置,该方法包括获取在分布式存储系统集群中增加新节点的触发事件,计算新节点即将在环形存储空间上管理数据的新节点范围;查询组成新节点范围的N个子范围,其中,每个原始节点在环形存储空间上管理数据的范围被划分为多个子范围,且每个子范围的数据存储在不同的原始节点中;从存储有N个子范围的数据的原始节点中,选择为新节点提供N个子范围的数据的拖取节点;分别从选择的各个拖取节点拖取对应的N个子范围中各个子范围的数据,并将拖取的N个子范围的数据合成新节点范围的数据。本发明能够保证集群中的各原始节点负载均衡,提升了数据拖取的并发度,加快了整个Streaming的过程。
搜索关键词: 数据 方法 装置
【主权项】:
一种数据拖取的方法,应用于分布式存储系统集群,所述分布式存储系统集群包括多个原始节点,且所述多个原始节点在环形存储空间上管理数据,包括:获取在所述分布式存储系统集群中增加新节点的触发事件,计算所述新节点即将在所述环形存储空间上管理数据的新节点范围;查询组成所述新节点范围的N个子范围,其中,每个原始节点在所述环形存储空间上管理数据的范围被划分为多个子范围,且每个子范围的数据存储在不同的原始节点中;从存储有所述N个子范围的数据的原始节点中,选择为所述新节点提供所述N个子范围的数据的拖取节点;分别从选择的各个所述拖取节点拖取对应的所述N个子范围中各个子范围的数据,并将拖取的所述N个子范围的数据合成所述新节点范围的数据;其中,每个原始节点在所述环形存储空间上管理数据的范围被划分为多个子范围,且每个子范围的数据存储在不同的原始节点中,包括:针对每个原始节点,确定该原始节点对应的多个子范围各自的位置序号;针对该原始节点对应的多个子范围中的每个子范围,从该原始节点开始按照预设方向数过该子范围的位置序号对应的个数节点作为基准节点,并以该基准节点为基准按照所述预设方向顺序选择连续的两个节点作为存储的该子范围的数据副本的存储节点,并进行存储操作,其中,所述预设方向包括顺时针方向或逆时针方向,从而将每个原始节点各自对应的多个子范围的数据副本分别存储至除自身以外的其他原始节点。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京奇虎科技有限公司;奇智软件(北京)有限公司,未经北京奇虎科技有限公司;奇智软件(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/patent/201410510419.1/,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top