[发明专利]数据的同步方法和装置有效
申请号: | 201710030062.0 | 申请日: | 2017-01-16 |
公开(公告)号: | CN106713487B | 公开(公告)日: | 2020-10-09 |
发明(设计)人: | 雷海林;胡彬;孙勇福;苏强 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | H04L29/08 | 分类号: | H04L29/08 |
代理公司: | 北京康信知识产权代理有限责任公司 11240 | 代理人: | 董文倩;褚敏 |
地址: | 518000 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 同步 方法 装置 | ||
本发明公开了一种数据的同步方法和装置。其中,该方法包括:检测到同步操作,同步操作用于请求将第一节点的目标类型的数据同步至第二节点;获取由同步操作触发的同步任务,同步任务用于将保存在第一节点的从设备上的目标类型的数据同步至第二节点,第一节点包括一个主设备和备份有主设备上数据的多个从设备;执行同步任务,从消息队列中读取包括目标类型的数据的目标消息,消息队列中缓存的消息携带有从第一节点的从设备获取的各个类型的数据;将目标消息中的目标类型的数据保存至第二节点。本发明解决了相关技术中进行数据同步处理时效率较低的技术问题。
技术领域
本发明涉及互联网领域,具体而言,涉及一种数据的同步方法和装置。
背景技术
数据备份是容灾和数据分析的基础,其主要是为防止系统出现操作失误或系统故障导致数据丢失,而将全部或部分数据集合从应用主机的硬盘或阵列复制到其它的存储介质的过程。传统的数据备份主要是采用内置或外置的磁带机进行冷备份。但是这种方式只能防止操作失误等人为故障,而且其恢复时间也很长。随着技术的不断发展,数据的海量增加,不少的企业开始采用网络备份。网络备份一般通过专业的数据存储管理软件结合相应的硬件和存储设备来实现。
Mysql提供了一种多主一从的网络备份架构,实现数据的多源同步。系统中存在多个Master节点(即主节点或源节点)和一个Slave节点(即从节点)。多个主节点的数据通过二进制日志文件同步到从节点上,达到数据同步的效果。当一个Master节点挂掉时,可以通过从节点上的数据恢复主节点的数据。
使用上述的Mysql官方提供的多主一从的架构设计,存在如下三方面缺点:(1)在其中一个主节点挂掉,利用从节点恢复主节点的数据的过程中,由于主节点的数据未完全恢复,故无法为用户提高有效服务,从而影响数据服务的可用性;(2)利用这种方案设计,需要数据同步的对象(如数据库、数据表等)是固定的,只允许主节点和目标机器(即从节点)的固定表进行同步,灵活性较差;(3)多主一从的架构设计使得从节点存在单点故障风险,在从节点故障时需要手工恢复从节点的数据,由于数据同步时只允许固定表之间的同步,在用户有新的同步需求时,需要手动修改底层的配置文件等信息,从而使得进行数据同步处理时效率较低。
针对上述相关技术中进行数据同步处理时效率较低的问题,目前尚未提出有效的解决方案。
发明内容
本发明实施例提供了一种数据的同步方法和装置,以至少解决相关技术中进行数据同步处理时效率较低的技术问题。
根据本发明实施例的一个方面,提供了一种数据的同步方法,该方法包括:检测到同步操作,其中,同步操作用于请求将第一节点的目标类型的数据同步至第二节点;获取由同步操作触发的同步任务,其中,同步任务用于将保存在第一节点的从设备上的目标类型的数据同步至第二节点,第一节点包括一个主设备和备份有主设备上数据的多个从设备;执行同步任务,从消息队列中读取包括目标类型的数据的目标消息,其中,消息队列中缓存的消息携带有从第一节点的从设备获取的各个类型的数据;将目标消息中的目标类型的数据保存至第二节点。
根据本发明实施例的另一方面,还提供了一种数据的同步装置,该装置包括:检测单元,用于检测到同步操作,其中,同步操作用于请求将第一节点的目标类型的数据同步至第二节点;第一获取单元,用于获取由同步操作触发的同步任务,其中,同步任务用于将保存在第一节点的从设备上的目标类型的数据同步至第二节点,第一节点包括一个主设备和备份有主设备上数据的多个从设备;执行单元,用于执行同步任务,从消息队列中读取包括目标类型的数据的目标消息,其中,消息队列中缓存的消息携带有从第一节点的从设备获取的各个类型的数据;保存单元,用于将目标消息中的目标类型的数据保存至第二节点。
在本发明实施例中,通过检测同步操作,在检测到同步操作时执行同步任务,将目标类型的数据从第一节点备份至第二节点,实现了对一类或者多类数据的自动备份,可以解决了相关技术中进行数据同步处理时效率较低的技术问题,进而达到提高数据同步时的处理效率的技术效果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710030062.0/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种基于用户数据分析的个性新闻推送服务系统
- 下一篇:一种数据传输方法及系统
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置