[发明专利]一种适用于云存储系统的元数据分布式存储方法有效
申请号: | 201210236195.0 | 申请日: | 2012-07-09 |
公开(公告)号: | CN102821138A | 公开(公告)日: | 2012-12-12 |
发明(设计)人: | 严荣程;魏孙鼎 | 申请(专利权)人: | 广州鼎鼎信息科技有限公司 |
主分类号: | H04L29/08 | 分类号: | H04L29/08;G06F17/30 |
代理公司: | 广州市越秀区海心联合专利代理事务所(普通合伙) 44295 | 代理人: | 马丽丽 |
地址: | 510000 广东省广*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 适用于 存储系统 数据 分布式 存储 方法 | ||
技术领域
本发明涉及网络数据存储领域,具体涉及一种适用于云存储系统的元数据分布式存储方法。
背景技术
现有GFS(Google File System)文件系统主要由元数据服务器和数据块服务器组成,其中元数据服务器是集中化存储,由于元数据的重要性,所以不得不对元数据服务器进行再集群或镜像。随着云存储技术的进步,无中心的分布式网络也被应用于持久存储,但是元数据的分布式存储成为了难题,在元数据集中化存储过程中存在以下技术问题:1)需要专门的元数据服务器;2)元数据本地存储不易于扩展:在海量数据存储环境下,本地的元数据容量会随着数据量的增长而膨胀,这时候,元数据服务器的整体性能、内存与硬盘空间就会成为瓶颈。3)为了防止单点失效而对元数据服务器进行集群。
发明内容
为了解决解决了元数据集中化存储所带来的以上技术问题:本发明涉及一种适用于云存储系统的元数据分布式存储方法。
本发明解决上述技术问题的技术方案是:提供的一种适用于云存储系统的元数据分布式存储方法,包括以下步骤:
(c1)对每个访问的客户端分配唯一的编号i;
(c2)设定该客户要访问一个对象表object的第j条记录;
(c3)根据编号i和对象表object的第j条记录构造出一个地址字符串meta.i.object.j;
(c4)将构造出的地址字符串进行SHA-1运算,得到一个指向混合数据块的摘要KEY;
(c5)将得到的摘要KEY通过映射方法f(key)→N找到相应服务器,并写入存储网络;
(c6)将存储网络中所写入的混合数据块的操作结果进行返回。
本发明所述的一种适用于云存储系统的元数据分布式存储方法中,所述步骤(c5)中,当写入数据块时,仅当数据块不存在时,才写入存储网络。
本发明所述的一种适用于云存储系统的元数据分布式存储方法中,所述步骤(c5)中,当写入元数据时,总是以覆盖的方式写入存储网络。
本发明所述的一种适用于云存储系统的元数据分布式存储方法中,所述步骤(c5)中,当数据块存在时,把数据块对应的摘要KEY的引用计数器加1。
本发明具有以下优点:
1、通过元数据的分布式存储,使得元数据与数据块可以同时混合存储,并具备与数据块有相同的冗余度,解决了元数据集中化存储带来的瓶颈问题,降低了元数据损坏的风险性;当增加更多存储服务器时,元数据可以与数据存储同步扩展。
2、该发明解决了传统元数据存储需要专门元数据服务器的问题,直接把元数据的存储与块数据存储合并,提高了元数据的安全性和可扩展性,即元数据的冗余度与扩展性保持与数据块存储一致,避免了因元数据单点失效而导致整个存储网络不能使用的问题。
说明书附图
图1为本发明中基于分布式哈希算法(DHT)的存储系统的流程图;
图2为本发明中元数据读取过程的流程图;
图3为本发明中元数据写入过程的流程图。
具体实施方式
参见图1-图3所示,本发明提供的一种适用于云存储系统的元数据分布式存储方法,通过元数据的分布式存储,使得元数据与数据块可以同时混合存储,并具备与数据块有相同的冗余度,解决了元数据集中化存储带来的瓶颈问题,降低了元数据损坏的风险性;当增加更多存储服务器时,元数据可以与数据存储同步扩展,本方法包括以下步骤:
步骤1:通过SHA-1算法对数据块进行签名运算,并对运算后的数据块进行存储,具体参见图1所示;
步骤2:通过映射方法将数据块和元数据进行混合存储。
参见图2与图3所示,实现上述步骤3还包括以下步骤:
第一步:对每个访问的客户端分配唯一的编号i;
第二步:设定该客户要访问一个对象表object的第j条记录;
第三步:根据编号i和对象表object的第j条记录构造出一个地址字符串meta.i.object.j;
第四步:将构造出的地址字符串进行SHA-1运算,并得到一个指向混合数据块的摘要KEY;
第五步:将得到的摘要KEY通过f(key)→N找到相应服务器,写入操作:仅当数据块不存在时,才写入存储网络;当写入元数据时,总是以覆盖的方式写入存储网络;当数据块存在时,把数据块对应的摘要KEY的引用计数器加1;前进到第六步。读取操作:直接读取混合数据块,前进到第七步。
第六步:将写入的的操作结果进行返回;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州鼎鼎信息科技有限公司,未经广州鼎鼎信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201210236195.0/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置