[发明专利]适用于基于哈希的多节点备份系统的数据备份方法及装置有效
申请号: | 202010047195.0 | 申请日: | 2020-01-16 |
公开(公告)号: | CN111258815B | 公开(公告)日: | 2023-08-08 |
发明(设计)人: | 赵靖荣;陈鹏 | 申请(专利权)人: | 西安奥卡云数据科技有限公司 |
主分类号: | G06F11/14 | 分类号: | G06F11/14;G06F16/22 |
代理公司: | 北京八月瓜知识产权代理有限公司 11543 | 代理人: | 李斌 |
地址: | 712000 陕西省西*** | 国省代码: | 陕西;61 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 适用于 基于 节点 备份 系统 数据 方法 装置 | ||
1.一种适用于基于哈希的多节点备份系统的数据备份方法,其特征在于,在数据节点中执行以下处理:
遍历本地存储的目标复制备份数据,统计并记录各个目标复制备份数据所引用的数据块以及所述数据块是否存在于远端服务器,即采用预定数据结构记录各个目标复制备份数据所引用的数据块以及所述数据块是否存在于远端服务器,其中,所述预定数据结构的键为数据块的哈希,所述键的键值为哈希引用对象,所述哈希引用对象采用一个比特标志位标识哈希及其对应的数据块是否已经存在于远端服务器,采用一个比特位图标识哪些目标复制备份数据引用了该数据块,在一个比特位图的长度不足以记录下所有引用了同一数据块的目标复制备份数据时,采用指针指向对应的下一个哈希引用对象,对于被所述目标复制备份数据所引用的数据块,如果当前还没有以其哈希为键的数据存储于统计数据中时,向远端服务器发送哈希是否存在查询消息,并根据查询结果对该数据块进行统计,其中,如果该哈希值已经存在于所述远端服务器,则属于该数据块下层的所有子孙数据块也存在于所述远端服务器,则根据查询结果对该数据块下层的子孙数据块进行统计;
将不存在于远端服务器的数据块在本地保存为作业文件,所述作业文件包括:哈希及其对应的可变字节长度的备份引用位图,其中,所述备份引用位图为引用该数据块的目标复制备份数据的比特位图;
根据所述作业文件并发地进行多个目标复制备份数据的复制,即在作业文件中保存传输失败的数据块记录,并读取该数据块的备份引用位图,并将所述备份引用位图以广播的形式发送到其他数据节点;当接收到所述广播后,根据接收到的备份引用位图,根据公式1更新本地预先设置的忽略匹配位的值:
skip_match_bits=skip_match_bits│backups_bitmap公式1;
其中,skip_match_bits表示忽略匹配位,backups_bitmap表示备份引用位图;在根据作业文件发送某一数据块前,根据公式2对该数据块的备份引用位图与所述忽略匹配位进行比较:
still_referred_by_other_backups=(~(backups_bitmapskip_match_bits))backups_bitmap公式2;
其中,still_referred_by_other_backups表示仍然被其他备份引用;如果比较结果still_referred_by_other_backups不等于零,则正常传输该数据块,否则,不传输该数据块;将复制失败的目标复制备份数据反馈给用户。
2.如权利要求1所述的方法,其特征在于,遍历本地存储的目标复制备份数据具体包括:
对计划要复制到远端服务器的目标复制备份数据进行编号,并基于所述编号遍历本地存储的目标复制备份数据。
3.如权利要求1所述的方法,其特征在于,根据所述作业文件并发地进行多个目标复制备份数据的复制具体包括:
在N+1天根据所述作业文件并发地进行多个目标复制备份数据的复制,其中,在第N天完成作业文件的保存。
4.如权利要求1所述的方法,其特征在于,对于被所述目标复制备份数据所引用的数据块,如果当前还没有以其哈希为键的数据存储于统计数据中时,向远端服务器发送查询消息具体包括:
在第N天,在所述远端服务器上的垃圾回收完成后,再向所述远端服务器发送查询消息。
5.如权利要求1所述的方法,其特征在于,所述方法进一步包括:
将记录的哈希设置一个复制时仍然有效标志位;
在第N天执行垃圾回收操作时,将在N+1天即将过期而成为无效目标复制备份数据的进行特殊计数;
根据所述特殊计数,如果一个记录的哈希只被在N+1天即将过期的目标复制备份数据所引用时,将所述复制时仍然有效标志位设置为零;
在接收到哈希是否存在查询消息时,如果所述复制时仍然有效标志位为零,则返回哈希不存在消息,否则,回复哈希存在消息;
在垃圾回收完成后,发送垃圾回收完成通知。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于西安奥卡云数据科技有限公司,未经西安奥卡云数据科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010047195.0/1.html,转载请声明来源钻瓜专利网。