[发明专利]一种基于GlusterFS的高容错分布式存储方法

说明书

一种基于Glusterfs的高容错分布式存储方法，在Glusterfs集群创建包含若干节点的数据卷；在所有节点中创建数据文件夹；寻找最优节点，以使数据文件夹的所有文件都存储在最优节点上；根据数据文件夹中某个文件的文件名计算哈希值，与所有节点的数据文件夹的哈希区间比较，确定该文件的哈希值所在的节点，并创建文件，最终完成数据文件夹的存储。由于将hash区间分配在一个节点上，可以保证该数据文件夹下所有文件能够存储在一个节点上，保持集群的高容错性。还改进了当发现数据不均衡现象时，用户执行的使所有节点的负载均衡的再均衡操作。

技术领域

本发明涉及一种基于GlusterFS的高容错的分布式存储方法，特别针对具有高速在线和低速离线备份双存储的以文件夹为原子单位的数据存储。

背景技术

近年来，随着计算机和信息技术的迅猛发展和普及应用，行业应用系统的规模迅速扩大，所产生的数据呈爆炸性增长。动辄达到数百TB甚至数百PB规模的行业/企业大数据已远远超出了传统的计算机存储能力，因此，分布式存储的使用已经越来越普及。

GlusterFS是目前较为成熟的开源分布式存储软件，是一个支持PB级数据存储的无元数据服务器的分布式存储系统，支持线性性能扩展。通过解除对元数据服务器的要求，消除了单点故障的性能瓶颈，真正实现了并行化数据访问。

对于许多大数据应用而言，虽然数据总体规模非常大，但在特定时间段内需要访问的数据通常仅占其中很小部分。因此，对于类似的大数据应用，不仅需要大规模的存储数据，还需要快速的访问部分数据，而目前的数据访问瓶颈大部分仍然是磁盘性能。为了解决磁盘性能瓶颈，可以使用访问速度高的高速磁盘，如固态硬盘。但是目前磁盘的访问速度与其单位存储价格基本成正比，即访问速度越高的存储介质单位存储成本往往更高。因此，对于一个拥有海量数据且某一时间段内只需要访问一部分数据的应用而言，全部使用高速磁盘或者全部使用普通廉价磁盘都是不合理的，全部使用高速磁盘由于很多数据在很长时间基本不会被访问，造成了存储成本的浪费；如果全部使用普通廉价磁盘，则不能满足快速访问数据的需求。对于此类应用，可以将多个普通磁盘和少量的高速磁盘通过网络连接成GlusterFS集群，用高速磁盘当做存储节点创建高速访问Distributed类型数据卷，用普通磁盘当做存储节点创建低速访问Distributed类型数据卷。实现在存储成本限制下，提供接近高速磁盘的数据访问服务。

对于许多应用而言，其存储数据是一个文件夹，并且文件夹中的文件相互依赖，一旦一个文件损坏或者丢失，则整个应用数据文件夹损坏。如果应用需要存储的是大量这样不可分割的数据文件夹，对于每个一个数据文件夹，目前的GlusterFS存储机制是文件会根据文件名hash分布存储在不同的节点的磁盘上，这样面临的一个问题是，一旦一个节点出现故障，几乎所有的数据文件夹可能都会缺少部分文件，造成所有的数据文件夹损坏不可使用。

以上GlusterFS集群中的高速数据卷是为了加快数据访问速度，其中存储的数据低速数据卷中都有备份，所以可以允许节点损坏造成的部分数据丢失，但是对于存储整体数据文件夹，一个节点的故障则会造成数据的全部损坏，这是不能容忍的。并且由于高速数据卷采用高速磁盘做存储介质，代价比较昂贵，而GlusterFS的replicated数据卷的存储利用率非常低，同时，使用备份存储因为写数据的时候需要写多份，会降低写性能，对于高速访问数据卷是不合适的。所以需要一个替代方案能够满足以下要求：

1.存储利用率高，由于高速代价非常高，不能以较大的牺牲存储保证数据安全性。

2.数据是相对安全的，一个节点的故障不能影响其他节点的数据，高速存储区中的数据在低速廉价存储区都有备份，少量的数据文件夹的丢失可以接受，只需重新从低速存储区再复制一份即可。

3.不会对数据的访问和存储速度造成较大影响。