[发明专利]增量数据的同步方法、装置、系统及电子设备在审

专利信息
申请号: 201711079000.5 申请日: 2017-11-06
公开(公告)号: CN110019513A 公开(公告)日: 2019-07-16
发明(设计)人: 曾文旌 申请(专利权)人: 阿里巴巴集团控股有限公司
主分类号: G06F16/27 分类号: G06F16/27
代理公司: 北京市惠诚律师事务所 11353 代理人: 逯博
地址: 英属开曼群岛大开*** 国省代码: 开曼群岛;KY
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 有效增量 增量数据 电子设备 预处理 同步处理 同步效率 获取源 数据量 同步的
【权利要求书】:

1.一种增量数据的同步方法,其特征在于,包括:

对源数据表的增量数据进行预处理,获取有效增量数据,所述有效增量数据由所述源数据表中同一行数据的最新行操作所产生;

对所述有效增量数据进行同步处理。

2.根据权利要求1所述的增量数据的同步方法,其特征在于,所述对源数据表的增量数据进行预处理,获取有效增量数据,包括:

向所述增量数据中添加操作标识,所述操作标识与所述源数据表的行操作唯一对应、且按所述行操作的时间先后顺序逐渐增大;

对于所述源数据表中同一行数据的增量数据,按照所述操作标识降序的顺序进行排序,并将排序后的序号更新为所述增量数据的预处理标记;

针对所述源数据表中同一行数据的增量数据,将所述预处理标记最小的增量数据确定为该行数据的有效增量数据。

3.根据权利要求1所述的增量数据的同步方法,其特征在于,所述对源数据表的增量数据进行预处理,获取有效增量数据,包括:

向所述增量数据中添加操作标识,所述操作标识与所述源数据表的行操作唯一对应、且按所述行操作的时间先后顺序逐渐增大;

对于所述源数据表中同一行数据的增量数据,按照所述操作标识升序的顺序进行排序,并将排序后的序号更新为所述增量数据的预处理标记;

针对所述源数据表中同一行数据的增量数据,将所述预处理标记最大的增量数据确定为该行数据的有效增量数据。

4.根据权利要求1所述的增量数据的同步方法,其特征在于,所述对所述有效增量数据进行同步处理,包括:

删除目的数据表中与所述有效增量数据相对应的行数据;

将所述有效增量数据写入所述目的数据表。

5.根据权利要求4所述的增量数据的同步方法,其特征在于,

所述删除目的数据表中与所述有效增量数据相对应的行数据,具体为:

批量删除目的数据表中与所述有效增量数据相对应的行数据;

所述将所述有效增量数据写入所述目的数据表,具体为:

将所述有效增量数据批量写入所述目的数据表。

6.根据权利要求5所述的增量数据的同步方法,其特征在于,所述批量删除目的数据表中与所述有效增量数据相对应的行数据,包括:

创建临时数据表;

将所述有效增量数据中的索引值批量写入所述临时数据表中;

在所述目的数据表中,批量删除与所述临时数据表中的索引值相同的行数据。

7.根据权利要求1至6中任一权利要求所述的增量数据的同步方法,其特征在于,在所述对源数据表的增量数据进行预处理之前,还包括:

获取增量日志,从所述增量日志中解析出所述源数据表的增量数据。

8.一种增量数据的同步装置,其特征在于,包括:

预处理模块,用于对源数据表的增量数据进行预处理,获取有效增量数据,所述有效增量数据由所述源数据表中同一行数据的最新行操作所产生;

同步模块,用于对所述有效增量数据进行同步处理。

9.根据权利要求8所述的增量数据的同步装置,其特征在于,所述预处理模块还用于,向所述增量数据中添加操作标识,所述操作标识与所述源数据表的行操作唯一对应、且按所述行操作的时间先后顺序逐渐增大;对于所述源数据表中同一行数据的增量数据,按照所述操作标识降序的顺序进行排序,并将排序后的序号更新为所述增量数据的预处理标记;针对所述源数据表中同一行数据的增量数据,将所述预处理标记最小的增量数据确定为该行数据的有效增量数据。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201711079000.5/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top