[发明专利]一种基于纠删码的存储数据重构方法和装置、存储节点有效
申请号: | 201610495313.8 | 申请日: | 2016-06-29 |
公开(公告)号: | CN107544862B | 公开(公告)日: | 2022-03-25 |
发明(设计)人: | 江滢;王志坤 | 申请(专利权)人: | 中兴通讯股份有限公司 |
主分类号: | G06F11/10 | 分类号: | G06F11/10;G06F3/06;H04L41/0654;H04L67/1097 |
代理公司: | 深圳鼎合诚知识产权代理有限公司 44281 | 代理人: | 江婷;李发兵 |
地址: | 518057 广东省深圳市*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 纠删码 存储 数据 方法 装置 节点 | ||
本发明实施例提供一种基于纠删码的存储数据重构方法和装置、存储节点,通过确定启动故障恢复阈值,启动故障恢复阈值小于等于条带存储数据块数量与纠删码重构最少数据块数量的差值,且大于等于1;对于故障数据块数量达到启动故障恢复阈值的条带,启动该条带的故障恢复;利用该条带的非故障数据块进行数据重构。相比于现有技术减少了进行故障恢复的次数,从而减轻了系统的带宽消耗,使得系统更稳定,提高了系统的业务性能。
技术领域
本发明涉及通信领域,尤其涉及一种基于纠删码的存储数据重构方法和装置、存储节点。
背景技术
近年来,随着信息资源和数据的爆炸性增长,分布式存储系统凭借高性能、高扩展、高可用、易管理等特点,成为云存储和大数据的基础和核心。但是由于硬件损坏和软件故障等原因,在数据存储过程中可能发生数据的损坏和丢失。云存储系统一般采用纠删码技术来提升容错能力,提高数据资源的使用效率和系统性能。纠删码在没有增加过量的存储空间的基础上,通常通过合理的冗余编码来保证数据的高可靠性和可用性。在云存储系统中,采用纠删码技术对数据进行保存,相对于完全复制技术,在很大程度上降低了系统的空间开销,但同时由于数据重构会带来巨大的网络开销,采用这种纠删码技术可能导致整个系统的网络或者部分节点的网络拥塞而无法提供服务,影响系统的性能。而且随着系统规模和磁盘容量增大,当前存储系统中部署的节点量越来越大,每天失效的节点数量也随之增多,数据恢复流量比重在总网络流量中还会不断增长,则会极大影响日常业务数据的访问。所以如何降低纠删码技术中的带宽消耗,保障业务性能是当前值得考虑的问题。
发明内容
本发明实施例提供的基于纠删码的存储数据重构方法和装置、存储节点,主要解决的技术问题是现有技术中纠删码技术进行存储数据重构时带宽消耗高,使得系统不稳定,业务性能不好的问题。
为解决上述技术问题,本发明实施例提供一种基于纠删码的存储数据重构方法,包括:
确定启动故障恢复阈值,启动故障恢复阈值小于等于条带存储数据块数量与纠删码重构最少数据块数量的差值,且大于等于1;
对于故障数据块数量达到启动故障恢复阈值的条带,启动该条带的故障恢复;
利用该条带的非故障数据块进行数据重构。
本发明实施例还提供一种基于纠删码的存储数据重构装置,包括:
启动故障恢复阈值确定模块,用于确定启动故障恢复阈值,启动故障恢复阈值小于等于条带存储数据块数量与纠删码重构最少数据块数量的差值,且大于等于1;
故障恢复启动模块,用于对于故障数据块数量达到启动故障恢复阈值的条带,启动该条带的故障恢复;
数据重构模块,用于利用该条带的非故障数据块进行数据重构。
本发明实施例还提供一种基于纠删码的存储节点,包括物理存储介质和处理器,处理器用于:
确定启动故障恢复阈值,并将启动故障恢复阈值分发到其它存储节点;启动故障恢复阈值小于等于条带存储数据块数量与纠删码重构最少数据块数量的差值,且大于等于1;
扫描本存储节点负责的各条带的故障情况,对于故障数据块数量达到启动故障恢复阈值的条带,启动该条带的故障恢复;
从本存储节点的物理存储介质以及其他存储节点的物理存储介质中提取该条带的非故障数据块进行数据重构。
本发明实施例还提供一种计算机存储介质,计算机存储介质中存储有计算机可执行指令,计算机可执行指令用于执行前述的任一项的基于纠删码的存储数据重构方法。
本发明的有益效果是:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中兴通讯股份有限公司,未经中兴通讯股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201610495313.8/2.html,转载请声明来源钻瓜专利网。
- 上一篇:具有攻击防护结构的系统
- 下一篇:一种数据存储方法及装置
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置