[发明专利]数据拖取的方法和装置有效
申请号: | 201410510419.1 | 申请日: | 2014-09-28 |
公开(公告)号: | CN104202435B | 公开(公告)日: | 2017-10-31 |
发明(设计)人: | 王锋 | 申请(专利权)人: | 北京奇虎科技有限公司;奇智软件(北京)有限公司 |
主分类号: | H04L29/08 | 分类号: | H04L29/08 |
代理公司: | 北京智汇东方知识产权代理事务所(普通合伙)11391 | 代理人: | 康正德,孙晓芳 |
地址: | 100088 北京市西城区新*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供了一种数据拖取的方法和装置,该方法包括获取在分布式存储系统集群中增加新节点的触发事件,计算新节点即将在环形存储空间上管理数据的新节点范围;查询组成新节点范围的N个子范围,其中,每个原始节点在环形存储空间上管理数据的范围被划分为多个子范围,且每个子范围的数据存储在不同的原始节点中;从存储有N个子范围的数据的原始节点中,选择为新节点提供N个子范围的数据的拖取节点;分别从选择的各个拖取节点拖取对应的N个子范围中各个子范围的数据,并将拖取的N个子范围的数据合成新节点范围的数据。本发明能够保证集群中的各原始节点负载均衡,提升了数据拖取的并发度,加快了整个Streaming的过程。 | ||
搜索关键词: | 数据 方法 装置 | ||
【主权项】:
一种数据拖取的方法,应用于分布式存储系统集群,所述分布式存储系统集群包括多个原始节点,且所述多个原始节点在环形存储空间上管理数据,包括:获取在所述分布式存储系统集群中增加新节点的触发事件,计算所述新节点即将在所述环形存储空间上管理数据的新节点范围;查询组成所述新节点范围的N个子范围,其中,每个原始节点在所述环形存储空间上管理数据的范围被划分为多个子范围,且每个子范围的数据存储在不同的原始节点中;从存储有所述N个子范围的数据的原始节点中,选择为所述新节点提供所述N个子范围的数据的拖取节点;分别从选择的各个所述拖取节点拖取对应的所述N个子范围中各个子范围的数据,并将拖取的所述N个子范围的数据合成所述新节点范围的数据;其中,每个原始节点在所述环形存储空间上管理数据的范围被划分为多个子范围,且每个子范围的数据存储在不同的原始节点中,包括:针对每个原始节点,确定该原始节点对应的多个子范围各自的位置序号;针对该原始节点对应的多个子范围中的每个子范围,从该原始节点开始按照预设方向数过该子范围的位置序号对应的个数节点作为基准节点,并以该基准节点为基准按照所述预设方向顺序选择连续的两个节点作为存储的该子范围的数据副本的存储节点,并进行存储操作,其中,所述预设方向包括顺时针方向或逆时针方向,从而将每个原始节点各自对应的多个子范围的数据副本分别存储至除自身以外的其他原始节点。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京奇虎科技有限公司;奇智软件(北京)有限公司,未经北京奇虎科技有限公司;奇智软件(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201410510419.1/,转载请声明来源钻瓜专利网。
- 上一篇:一种具有吸波散热功能的七彩变色手机壳
- 下一篇:一种设置智能镜子的方法
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置