[发明专利]分布式存储系统的数据修复方法及存储介质有效
申请号: | 201880005531.6 | 申请日: | 2018-07-10 |
公开(公告)号: | CN110168505B | 公开(公告)日: | 2022-10-21 |
发明(设计)人: | 张婧垚 | 申请(专利权)人: | 深圳花儿数据技术有限公司 |
主分类号: | G06F11/07 | 分类号: | G06F11/07;G06F11/10 |
代理公司: | 深圳鼎合诚知识产权代理有限公司 44281 | 代理人: | 彭愿洁;彭家恩 |
地址: | 518000 广东省深圳市前海深港合作区前*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 分布式 存储系统 数据 修复 方法 存储 介质 | ||
1.一种分布式存储系统的数据修复方法,所述系统的存储节点的总数为n,所述系统基于使用乘积矩阵的最小存储再生码C(n',k',d')对需要存储的数据进行编码,
其中n'=n+δ,k'=k+δ,d'=d+δ,δ表示虚拟节点的数量,k表示将数据等分为k段,每段包含α个数据子块,d'为修复度,编码获得的C为n'×α维矩阵,其每个元素是编码后得到的数据子块,C的前δ行是0,第δ+1到第δ+k行为原始数据,剩下的m=n'-k'行为编码后的校验数据,这使得编码获得的n'个数据块中只有n=n'-δ个需要被存储;
其特征在于,所述数据修复方法包括如下步骤:
步骤1:从正常节点中选取辅助节点,用所述辅助节点计算得到辅助数据子块,并将所述辅助数据子块发送给重建数据的节点:
用{Ni|1≤i≤n'}表示由虚拟节点和真实节点共同组成的集合,其中N1~Nδ为虚拟节点,而Nδ+1~Nn'是真实节点,所述正常节点共有n'-t个,其中t为失效节点数量,且t≥1,定义X={xi|i=1,...,t,δxi≤n'}为丢失列表,用表示丢失的数据块,从所述正常节点中选择d'-t+1个节点作为所述辅助节点,所述辅助节点的集合表示为所述辅助节点和所述失效节点并集为“相关节点”,表示为:Ne={Nj|Nj∈Na or j∈X},
所述辅助节点Nj∈Na首先计算存储的数据块cj与的内积,得到t个所述辅助数据子块:然后将所述辅助数据子块作为辅助数据发送给重建数据的节点,
步骤2:对修复矩阵RX进行计算:
(1)对每一个xi,xj∈X,j≠i,通过下式计算矩阵:
其中是的前α个元素组成的向量,而是的后α个元素组成的向量,这里指的是矩阵中与所述辅助数据子块对应的列,是的逆矩阵,
(2)用Xi=X|xi表示所述丢失列表X去掉xi后剩余编号的有序集合,用表示矩阵中与数据块对应的列的序号按顺序排列的有序集,对每一个i=1~t:
其中,的计算方式与相同,m=n-k,
根据上述过程有:
其中,
(3)对于每个xi,向量的长度都是d'-t+1,事实上的前δ个元素全都是0,相应地,每个Θi的前δ列也都是无用的列,因此用来代替其中Θ'i是Θi去掉前δ列后剩余的部分,是去掉前δ个元素后剩余的部分:
令
则修复矩阵为:
步骤3:对丢失的数据块进行重建:
用修复矩阵RX左乘辅助数据子块组成的向量得到丢失的数据块。
2.如权利要求1所述的方法,其特征在于,所述修复矩阵适用于tmin{k,α},对于t≥min{k,α}的情形,用解码的方式重建丢失的数据:
从正常节点中任选k个节点作为辅助节点,从所述辅助节点下载共k×α个数据子块,然后对所述数据子块作解码操作,得到原始数据。
3.如权利要求1所述的方法,其特征在于,ΞX为可逆矩阵,或通过向所述丢失列表中增加节点使ΞX变为可逆,或者将所述丢失列表中的某个或某些节点替换成其他节点使ΞX变为可逆;否则用解码的方式重建丢失的数据。
4.如权利要求1所述的方法,其特征在于,数据修复方法包括集中式数据修复,在集中式模式下,根据待修复的所述失效节点数量选取所述辅助节点数量,所述辅助数据子块的收集、所述修复矩阵运算和所述重建丢失数据块过程由中心代理节点完成。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳花儿数据技术有限公司,未经深圳花儿数据技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201880005531.6/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置