[发明专利]数据同步方法、装置以及电子设备有效
申请号: | 201711083268.6 | 申请日: | 2017-11-07 |
公开(公告)号: | CN110019514B | 公开(公告)日: | 2023-05-09 |
发明(设计)人: | 唐治洋;卢毅军;陶云峰 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06F16/27 | 分类号: | G06F16/27;G06F16/18 |
代理公司: | 北京清源汇知识产权代理事务所(特殊普通合伙) 11644 | 代理人: | 冯德魁;窦晓慧 |
地址: | 英属开曼群岛大开*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 同步 方法 装置 以及 电子设备 | ||
本申请公开了一种数据同步方法,包括:通知日志队列有新集群加入数据同步;将已同步集群的第一数据存储空间存储的特征数据同步到所述新集群的第二数据存储空间中,以及通过所述新集群读取所述日志队列中的日志;将读取到的日志合并到所述第二数据存储空间中。所述数据同步方法,针对新加入数据同步的新集群,将已同步集群的数据同步到新集群,使新集群与已同步集群的数据保持一致;此外,读取日志队列中的日志合并到新集群,从而使新集群与已同步集群以及日志队列的数据在整体上保持一致,确保数据一致性。
技术领域
本申请涉及数据同步技术领域,具体涉及一种数据同步方法。本申请同时涉及一种数据同步装置,另一种数据同步方法以及装置,以及两种电子设备。
背景技术
随着云计算的发展,越来越多的业务需求要求一种更强大的用于数据存储的数据中心,并且要求数据中心具有较强的高可用性,能够最大程度的减少甚至消除系统故障对正常业务的影响,因此,建立多个数据中心实现业务容灾成为必然选择,这些数据中心之间的数据同步成为实现业务高可用性至关重要的一环。
目前有许多方案着眼于实现分布式场景下的数据一致性,比如ZAB协议(Zookeeper Atomic Broadcast,Zookeeper原子消息广播协议)中,Zab协议定义了三种角色:Leader(领导者)、Follower(追随者)和Observer(观察者),三者都在本地维护了一个log(日志)和snapshot(快照)。当Quorum(集群)当中有新的Follower/Observer加入时,会向当前的Leader提交其当前snapshot的版本,等待Leader返回最近一段时间产生的log;Leader会比较自身log最低的版本与Follower/Observer提交的snapshot的版本,以判断Follower/Observer与自身log之间是否存在空缺,如果不存在空缺,则Leader直接发送自己相比较于Follower多出的log;如果存在空缺,则Leader将自身当前的snapshot发送至Follower/Observer,再将snapshot发送期间产生的log发给Follower/Observer,从而确保新加入Follower/Observer数据满足一致性。然而,在log与snapshot分离的场景下,由于log通常更新的比较快,而snapshot的生成却比较慢,因此,在snapshot生成的过程中可能会出现log被清除,导致snapshot与log之间的版本存在空缺,从而破坏了数据一致性。
发明内容
本申请提供一种数据同步方法,以解决现有技术存在的数据一致性被破坏的缺陷。本申请另外提供一种数据同步装置,另一种数据同步方法以及装置,以及两种电子设备。
本申请提供一种数据同步方法,包括:
通知日志队列有新集群加入数据同步;
将已同步集群的第一数据存储空间存储的特征数据同步到所述新集群的第二数据存储空间中,以及通过所述新集群读取所述日志队列中的日志;
将读取到的日志合并到所述第二数据存储空间中。
可选的,所述第一数据存储空间存储的特征数据以数据快照文件的形式同步到所述第二数据存储空间中。
可选的,所述将已同步集群的第一数据存储空间存储的特征数据同步到所述新集群的第二数据存储空间中,采用如下方式实现:
通过所述新集群向所述第二数据存储空间发送初始化指令;
根据所述初始化指令向所述第一数据存储空间发出快照请求;
根据所述快照请求,生成所述第一数据存储空间存储的特征数据的快照数据文件,并将所述数据快照文件发送至所述第二数据存储空间;
通过所述第二数据存储空间向所述新集群返回确认消息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711083268.6/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置