[发明专利]数据同步方法、装置以及电子设备有效

专利信息
申请号: 201711083268.6 申请日: 2017-11-07
公开(公告)号: CN110019514B 公开(公告)日: 2023-05-09
发明(设计)人: 唐治洋;卢毅军;陶云峰 申请(专利权)人: 阿里巴巴集团控股有限公司
主分类号: G06F16/27 分类号: G06F16/27;G06F16/18
代理公司: 北京清源汇知识产权代理事务所(特殊普通合伙) 11644 代理人: 冯德魁;窦晓慧
地址: 英属开曼群岛大开*** 国省代码: 暂无信息
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 数据 同步 方法 装置 以及 电子设备
【说明书】:

本申请公开了一种数据同步方法,包括:通知日志队列有新集群加入数据同步;将已同步集群的第一数据存储空间存储的特征数据同步到所述新集群的第二数据存储空间中,以及通过所述新集群读取所述日志队列中的日志;将读取到的日志合并到所述第二数据存储空间中。所述数据同步方法,针对新加入数据同步的新集群,将已同步集群的数据同步到新集群,使新集群与已同步集群的数据保持一致;此外,读取日志队列中的日志合并到新集群,从而使新集群与已同步集群以及日志队列的数据在整体上保持一致,确保数据一致性。

技术领域

本申请涉及数据同步技术领域,具体涉及一种数据同步方法。本申请同时涉及一种数据同步装置,另一种数据同步方法以及装置,以及两种电子设备。

背景技术

随着云计算的发展,越来越多的业务需求要求一种更强大的用于数据存储的数据中心,并且要求数据中心具有较强的高可用性,能够最大程度的减少甚至消除系统故障对正常业务的影响,因此,建立多个数据中心实现业务容灾成为必然选择,这些数据中心之间的数据同步成为实现业务高可用性至关重要的一环。

目前有许多方案着眼于实现分布式场景下的数据一致性,比如ZAB协议(Zookeeper Atomic Broadcast,Zookeeper原子消息广播协议)中,Zab协议定义了三种角色:Leader(领导者)、Follower(追随者)和Observer(观察者),三者都在本地维护了一个log(日志)和snapshot(快照)。当Quorum(集群)当中有新的Follower/Observer加入时,会向当前的Leader提交其当前snapshot的版本,等待Leader返回最近一段时间产生的log;Leader会比较自身log最低的版本与Follower/Observer提交的snapshot的版本,以判断Follower/Observer与自身log之间是否存在空缺,如果不存在空缺,则Leader直接发送自己相比较于Follower多出的log;如果存在空缺,则Leader将自身当前的snapshot发送至Follower/Observer,再将snapshot发送期间产生的log发给Follower/Observer,从而确保新加入Follower/Observer数据满足一致性。然而,在log与snapshot分离的场景下,由于log通常更新的比较快,而snapshot的生成却比较慢,因此,在snapshot生成的过程中可能会出现log被清除,导致snapshot与log之间的版本存在空缺,从而破坏了数据一致性。

发明内容

本申请提供一种数据同步方法,以解决现有技术存在的数据一致性被破坏的缺陷。本申请另外提供一种数据同步装置,另一种数据同步方法以及装置,以及两种电子设备。

本申请提供一种数据同步方法,包括:

通知日志队列有新集群加入数据同步;

将已同步集群的第一数据存储空间存储的特征数据同步到所述新集群的第二数据存储空间中,以及通过所述新集群读取所述日志队列中的日志;

将读取到的日志合并到所述第二数据存储空间中。

可选的,所述第一数据存储空间存储的特征数据以数据快照文件的形式同步到所述第二数据存储空间中。

可选的,所述将已同步集群的第一数据存储空间存储的特征数据同步到所述新集群的第二数据存储空间中,采用如下方式实现:

通过所述新集群向所述第二数据存储空间发送初始化指令;

根据所述初始化指令向所述第一数据存储空间发出快照请求;

根据所述快照请求,生成所述第一数据存储空间存储的特征数据的快照数据文件,并将所述数据快照文件发送至所述第二数据存储空间;

通过所述第二数据存储空间向所述新集群返回确认消息。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201711083268.6/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top