[发明专利]一种基于HDFS文件系统的可靠性增强方法和系统有效
| 申请号： | 201610573042.3 | 申请日： | 2016-07-19 |
| 公开（公告）号： | CN107632994B | 公开（公告）日： | 2021-05-25 |
| 发明（设计）人： | 侯国梁 | 申请（专利权）人： | 普天信息技术有限公司 |
| 主分类号： | G06F16/182 | 分类号： | G06F16/182;G06F16/11 |
| 代理公司： | 北京路浩知识产权代理有限公司 11002 | 代理人： | 李相雨 |
| 地址： | 100080 北京*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明提供一种基于HDFS文件系统的可靠性增强方法和系统，所述方法包括：在HDFS集群前增加一个缓冲代理，缓冲代理将上载数据生成多个缓冲块，并且将多个缓冲块按位做XOR编码生成X数据块，缓冲代理将包含X数据块的所有缓存块申请位置信息；基于位置信息，验证消亡任一缓存块对应的所有数据节点，确认满足X副本恢复条件后，将数据副本上传到数据节点，记录数据块的绑定信息。该方案完全不影响HDFS的读取性能，原有的副本数性能毫无变化，完全不影响HDFS对于分布式计算的增益，与原有的副本数机制毫无降低。兼容性、一致性、可扩展性能极佳，除了冗余部分，原有部分完全一致。 | ||
| 搜索关键词： | 一种 基于 hdfs 文件系统 可靠性 增强 方法 系统 | ||
【主权项】：
一种基于HDFS文件系统的可靠性增强方法，其特征在于，所述方法包括：在HDFS集群前增加一个缓冲代理，缓冲代理将上载数据生成多个缓冲块，并且将多个缓冲块按位做XOR编码生成X数据块，缓冲代理将包含X数据块的所有缓存块申请位置信息；基于位置信息，验证消亡任一缓存块对应的所有数据节点，确认满足X副本恢复条件后，将数据副本上传到数据节点，记录数据块的绑定信息。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于普天信息技术有限公司，未经普天信息技术有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201610573042.3/，转载请声明来源钻瓜专利网。
- 上一篇：一种快速排重方法及终端
- 下一篇：检测机柜及移动终端检测设备
