[发明专利]增量数据的同步方法、装置、系统及电子设备在审
申请号: | 201711079000.5 | 申请日: | 2017-11-06 |
公开(公告)号: | CN110019513A | 公开(公告)日: | 2019-07-16 |
发明(设计)人: | 曾文旌 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06F16/27 | 分类号: | G06F16/27 |
代理公司: | 北京市惠诚律师事务所 11353 | 代理人: | 逯博 |
地址: | 英属开曼群岛大开*** | 国省代码: | 开曼群岛;KY |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 有效增量 增量数据 电子设备 预处理 同步处理 同步效率 获取源 数据量 同步的 | ||
1.一种增量数据的同步方法,其特征在于,包括:
对源数据表的增量数据进行预处理,获取有效增量数据,所述有效增量数据由所述源数据表中同一行数据的最新行操作所产生;
对所述有效增量数据进行同步处理。
2.根据权利要求1所述的增量数据的同步方法,其特征在于,所述对源数据表的增量数据进行预处理,获取有效增量数据,包括:
向所述增量数据中添加操作标识,所述操作标识与所述源数据表的行操作唯一对应、且按所述行操作的时间先后顺序逐渐增大;
对于所述源数据表中同一行数据的增量数据,按照所述操作标识降序的顺序进行排序,并将排序后的序号更新为所述增量数据的预处理标记;
针对所述源数据表中同一行数据的增量数据,将所述预处理标记最小的增量数据确定为该行数据的有效增量数据。
3.根据权利要求1所述的增量数据的同步方法,其特征在于,所述对源数据表的增量数据进行预处理,获取有效增量数据,包括:
向所述增量数据中添加操作标识,所述操作标识与所述源数据表的行操作唯一对应、且按所述行操作的时间先后顺序逐渐增大;
对于所述源数据表中同一行数据的增量数据,按照所述操作标识升序的顺序进行排序,并将排序后的序号更新为所述增量数据的预处理标记;
针对所述源数据表中同一行数据的增量数据,将所述预处理标记最大的增量数据确定为该行数据的有效增量数据。
4.根据权利要求1所述的增量数据的同步方法,其特征在于,所述对所述有效增量数据进行同步处理,包括:
删除目的数据表中与所述有效增量数据相对应的行数据;
将所述有效增量数据写入所述目的数据表。
5.根据权利要求4所述的增量数据的同步方法,其特征在于,
所述删除目的数据表中与所述有效增量数据相对应的行数据,具体为:
批量删除目的数据表中与所述有效增量数据相对应的行数据;
所述将所述有效增量数据写入所述目的数据表,具体为:
将所述有效增量数据批量写入所述目的数据表。
6.根据权利要求5所述的增量数据的同步方法,其特征在于,所述批量删除目的数据表中与所述有效增量数据相对应的行数据,包括:
创建临时数据表;
将所述有效增量数据中的索引值批量写入所述临时数据表中;
在所述目的数据表中,批量删除与所述临时数据表中的索引值相同的行数据。
7.根据权利要求1至6中任一权利要求所述的增量数据的同步方法,其特征在于,在所述对源数据表的增量数据进行预处理之前,还包括:
获取增量日志,从所述增量日志中解析出所述源数据表的增量数据。
8.一种增量数据的同步装置,其特征在于,包括:
预处理模块,用于对源数据表的增量数据进行预处理,获取有效增量数据,所述有效增量数据由所述源数据表中同一行数据的最新行操作所产生;
同步模块,用于对所述有效增量数据进行同步处理。
9.根据权利要求8所述的增量数据的同步装置,其特征在于,所述预处理模块还用于,向所述增量数据中添加操作标识,所述操作标识与所述源数据表的行操作唯一对应、且按所述行操作的时间先后顺序逐渐增大;对于所述源数据表中同一行数据的增量数据,按照所述操作标识降序的顺序进行排序,并将排序后的序号更新为所述增量数据的预处理标记;针对所述源数据表中同一行数据的增量数据,将所述预处理标记最小的增量数据确定为该行数据的有效增量数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711079000.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种数据处理方法及装置
- 下一篇:数据同步方法、装置以及电子设备