[发明专利]一种数据备份方法及云HDFS系统有效
申请号: | 201610268816.1 | 申请日: | 2016-04-27 |
公开(公告)号: | CN107315652B | 公开(公告)日: | 2021-04-16 |
发明(设计)人: | 鲁瑞;侯建卫;付长东 | 申请(专利权)人: | 中国移动通信集团山西有限公司;北京天和科瑞信息技术有限公司 |
主分类号: | G06F11/14 | 分类号: | G06F11/14 |
代理公司: | 北京派特恩知识产权代理有限公司 11270 | 代理人: | 江宇;张颖玲 |
地址: | 030032 山西*** | 国省代码: | 山西;14 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 备份 方法 hdfs 系统 | ||
本发明公开了一种数据备份方法及云HDFS系统,所述方法包括:在当前备份周期内,通过预定接口从数据的源存储平台获取至少一种待备份数据,所述源存储平台为关系数据库管理系统RDBMS系统平台、大规模并行处理机制MPP系统平台和基于云架构的分布式文件系统HDFS系统平台中的至少一个;计算当前备份周期内的每种待备份数据的属性信息;依据所述属性信息,对所述至少一种待备份数据进行备份。本方案中利用数据的使用价值对数据进行备份,至少能够提高备份效率、避免对备份空间的浪费。
技术领域
本发明涉及数据备份技术,具体涉及一种数据备份方法及基于云架构(Hadoop)的分布式文件系统(HDFS,Hadoop Distributed File System)系统。
背景技术
移动互联网时代,数据正在呈爆炸性增长,增值业务、定制业务等各种业务的数据量已呈现指数增长,而对这些海量数据的备份已经成为其中难以解决的问题之一。
目前,对于海量数据的备份,主要可采用如下几种方法:(1)数据库备份技术;(2)块设备备份技术;(3)基于云存储的数据备份技术。其中,采用数据库备份技术和块设备备份技术是较为传统的备份技术,数据库备份技术主要利用mirror、Copy技术对数据进行备份;而块设备备份技术基本上针对小型计算机系统接口(SCSI,Small Computer SystemInterface)类设备中的数据进行备份,如直连式存储设备(DAS,Direct AttachedStorage)、存储区域网络(SAN,Storage Area Network)设备。海量数据的备份要求系统具有很强的扩展性,而这两种传统的备份系统的可扩展性不足,无法满足对海量数据的备份。基于云存储的备份技术由于具有较大的数据吞吐量而备受关注,对于不需要备份的数据或利用价值较小的数据也进行云存储,无非是浪费了备份空间,降低了备份效率。
发明内容
为解决现有存在的技术问题,本发明实施例提供一种数据备份方法及云HDFS系统,至少能够提高备份效率、避免对备份空间的浪费。
本发明实施例的技术方案是这样实现的:
本发明实施例提供一种数据备份方法,所述方法包括:
在当前备份周期内,通过预定接口从数据的源存储平台获取至少一种待备份数据,所述源存储平台为关系数据库管理系统RDBMS系统平台、大规模并行处理机制MPP系统平台和基于云架构的分布式文件系统HDFS系统平台中的至少一个;
计算当前备份周期内的每种待备份数据的属性信息;
依据所述属性信息,对所述至少一种待备份数据进行备份。
上述方案中,所述通过预定接口从数据的源存储平台获取至少一种待备份数据,包括:
通过预定接口读取存储在所述源存储平台中的数据,得到所述至少一种待备份数据。
上述方案中,在计算当前备份周期内的每种待备份数据的属性信息之前,所述方法还包括:
获取每种待备份数据的第一信息,第一信息表征为在历史周期内的待备份数据被用户操作的频繁程度;
获取每种待备份数据的存储时间信息,所述存储时间信息表征为待备份数据在所述至少一源存储平台中的存放时间;
获取每种待备份数据的迁移度信息,所述迁移度信息表征为待备份数据在所有源存储平台的至少两个源存储平台中的迁移次数;
相应的,所述计算当前备份周期内的每种待备份数据的属性信息,包括:
依据每种待备份数据的第一信息、存储时间信息及迁移度信息,确定每种待备份数据的属性信息。
上述方案中,所述依据待备份数据的第一信息、存储时间信息及迁移度信息,确定每种待备份数据的属性信息,包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国移动通信集团山西有限公司;北京天和科瑞信息技术有限公司,未经中国移动通信集团山西有限公司;北京天和科瑞信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201610268816.1/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种基于虚拟化备份的技术
- 下一篇:一种实时统计的排行榜数据恢复方法与装置
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置