[发明专利]一种数据同步方法以及装置有效
申请号: | 201611178079.2 | 申请日: | 2016-12-19 |
公开(公告)号: | CN108205560B | 公开(公告)日: | 2021-12-14 |
发明(设计)人: | 胡森;许中清;李跃森;刘煜宏 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F16/27 | 分类号: | G06F16/27 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 郝传鑫;熊永强 |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 同步 方法 以及 装置 | ||
1.一种数据同步方法,其特征在于,包括:
获取数据操作指令,并根据所述数据操作指令执行数据处理业务,并记录基于所述数据处理业务所生成的总增量数据;所述总增量数据为基于逻辑语句的增量数据;
查找所述总增量数据所关联的至少一个第一数据表;各第一数据表均包括对应的表增量数据;所述各第一数据表分别对应的表增量数据的总和为所述总增量数据;
将所述各第一数据表中的表增量数据并行同步至目标数据库;
其中,所述获取数据操作指令,并根据所述数据操作指令执行数据处理业务,并记录基于所述数据处理业务所生成的总增量数据,包括:
获取数据操作指令,并根据所述数据操作指令执行数据处理业务,并设置与所述数据处理业务对应的数据记录范围;
若所述数据记录范围为至少一个第二数据表,则在所述至少一个第二数据表中记录基于所述数据处理业务所生成的总增量数据;
若所述数据记录范围为源数据库,则在所述源数据库中记录基于所述数据处理业务所生成的总增量数据。
2.如权利要求1所述的方法,其特征在于,所述将所述各第一数据表中的表增量数据并行同步至目标数据库,包括:
判断所述至少一个第一数据表中是否存在包含主关键字的第一数据表;
若判断为否,则将所述各第一数据表中的表增量数据并行同步至所述目标数据库;
若判断为是,则将不包含所述主关键字的第一数据表中的表增量数据并行同步至所述目标数据库,并查找与包含所述主关键字的第一数据表对应的表增量数据所关联的至少一个目标行数据,将所述各目标行数据分别对应的行增量数据并行同步至所述目标数据库;
其中,所述第一数据表中各目标行数据分别对应的行增量数据的总和为该第一数据表对应的表增量数据。
3.如权利要求1所述的方法,其特征在于,在所述查找所述总增量数据所关联的至少一个第一数据表的步骤之前,还包括:
检测所述数据处理业务的执行状态;
若所述数据处理业务的执行状态为成功执行状态,则执行所述查找所述总增量数据所关联的至少一个第一数据表的步骤;
若所述数据处理业务的执行状态为数据回滚状态,则删除所记录的所述总增量数据。
4.如权利要求1所述的方法,其特征在于,在所述获取数据操作指令的步骤之前,还包括:
记录接收到后台业务指令对应的起始时间戳,并将源数据库中处于所述起始时间戳的全量数据确定为待同步全量数据,并根据所述后台业务指令将所述待同步全量数据同步至目标数据库;所述后台业务指令为在线升级指令或数据搬迁指令;
则所述在所述源数据库中记录基于所述数据处理业务所生成的总增量数据,包括:
在所述源数据库中记录基于所述数据处理业务所生成的增量数据;
判断所述待同步全量数据是否已全部同步至所述目标数据库;
若判断为否,则继续执行所述在所述源数据库中记录基于所述数据处理业务所生成的增量数据的步骤;
若判断为是,则将完成所述数据处理业务的时刻确定为结束时间戳,并将所述起始时间戳到所述结束时间戳之间所记录到的所有增量数据确定为总增量数据。
5.一种数据同步装置,其特征在于,包括:
记录模块,用于获取数据操作指令,并根据所述数据操作指令执行数据处理业务,并记录基于所述数据处理业务所生成的总增量数据;所述总增量数据为基于逻辑语句的增量数据;
查找模块,用于查找所述总增量数据所关联的至少一个第一数据表;各第一数据表均包括对应的表增量数据;所述各第一数据表分别对应的表增量数据的总和为所述总增量数据;
第一同步模块,用于将所述各第一数据表中的表增量数据并行同步至目标数据库;
其中,所述记录模块包括:
获取检测单元,用于获取数据操作指令,并根据所述数据操作指令执行数据处理业务,并设置与所述数据处理业务对应的数据记录范围;
第一记录单元,用于若所述数据记录范围为至少一个第二数据表,则在所述至少一个第二数据表中记录基于所述数据处理业务所生成的总增量数据;
第二记录单元,用于若所述数据记录范围为源数据库,则在所述源数据库中记录基于所述数据处理业务所生成的总增量数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201611178079.2/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种数据管理方法及其设备
- 下一篇:数据查询系统、方法及装置
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置