[发明专利]海量小文件的分布式存储方法和系统有效
申请号: | 201810918747.3 | 申请日: | 2018-08-13 |
公开(公告)号: | CN109271361B | 公开(公告)日: | 2020-07-24 |
发明(设计)人: | 唐鹏;谢彬;解维;居晓清;张楠;侯亮 | 申请(专利权)人: | 华东计算技术研究所(中国电子科技集团公司第三十二研究所) |
主分类号: | G06F16/182 | 分类号: | G06F16/182;G06F16/13;G06F16/18 |
代理公司: | 上海段和段律师事务所 31334 | 代理人: | 李佳俊;郭国中 |
地址: | 201800 *** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供海量小文件的分布式存储方法和系统,包括将物理磁盘通过逻辑分区形成多个虚拟磁盘;根据海量小文件的文件命名规则进行分类,创建目录索引树;根据文件命名规则解析所存储的海量小文件的文件名,获取其在目录索引树中的存储位置,存储海量小文件,对应的存储目录记为原始目录,并对海量小文件进行冗余存储,对应的存储目录记为冗余目录;当出现所述原始目录、所述冗余目录两者中的文件数据不一致时,触发数据同步与恢复操作。本发明针对海量小文件的分布式存储,在存储大量小文件时通过建立索引及文件名定位,实现在海量数据中迅速定位信息,在可靠性上利用数据冗余来保证,机制简单,容错性强,在保证正确性的同时减少元数据存储空间。 | ||
搜索关键词: | 海量 文件 分布式 存储 方法 系统 | ||
【主权项】:
1.一种海量小文件的分布式存储方法,其特征在于,包括:磁盘分区步骤:将物理磁盘通过逻辑分区形成多个虚拟磁盘;建立目录索引树步骤:基于所述虚拟磁盘根据海量小文件的文件命名规则进行分类,根据所述分类创建目录索引树;文件存储步骤:根据文件命名规则解析所存储的海量小文件的文件名,获取海量小文件在所述目录索引树中的存储位置,存储海量小文件,对应的存储目录记为原始目录,并对海量小文件进行冗余存储,对应的存储目录记为冗余目录;数据同步与恢复步骤:当出现所述原始目录、所述冗余目录两者中的文件数据不一致的情况时,触发数据同步与恢复操作。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华东计算技术研究所(中国电子科技集团公司第三十二研究所),未经华东计算技术研究所(中国电子科技集团公司第三十二研究所)许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201810918747.3/,转载请声明来源钻瓜专利网。