[发明专利]一种基于负载均衡的查询式重复数据删除方法及装置有效
申请号: | 201711119659.9 | 申请日: | 2017-11-14 |
公开(公告)号: | CN108089816B | 公开(公告)日: | 2021-05-11 |
发明(设计)人: | 蒋泽军;王丽芳;杜承烈;刘志强;范刚龙;褚伟波;尤涛;陈进朝;史豪斌;潘炜;赵正伟;邓磊;罗立志 | 申请(专利权)人: | 西北工业大学 |
主分类号: | G06F3/06 | 分类号: | G06F3/06 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 郭永丽 |
地址: | 710072 *** | 国省代码: | 陕西;61 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于负载均衡的查询式重复数据删除方法及装置,涉及通信技术领域。该方法包括:从对数据流进行分块所得的数据块,超块以及每个所述数据块对应的指纹,确定确定与多个最小指纹对应的多个存储节点;通过布隆过滤器确定分别与多个存储节点匹配的数量,当确定与多个存储节点匹配的数量非零时,根据确定的与多个存储节点匹配的数量以及存储节点的容量,确定第一存储节点;将超块发送至所述第一存储节点,根据从超块内选择的具有最小指纹的数据块从第一存储节点内选择与最小指纹对应的容器编号;当确定与容器编号对应的最小指纹以及与最小指纹对应的数据块存储在缓存数据库中时,则将数据块删除。 | ||
搜索关键词: | 一种 基于 负载 均衡 查询 重复 数据 删除 方法 装置 | ||
【主权项】:
1.一种基于负载均衡的查询式重复数据删除方法,其特征在于,该方法包括:从对数据流进行分块所得的数据块,超块以及每个所述数据块对应的指纹,确定多个具有最小所述指纹的所述数据块,根据多个所述最小指纹确定与多个所述最小指纹对应的多个存储节点;通过布隆过滤器确定分别与多个所述存储节点匹配的数量,当确定与多个所述存储节点匹配的数量非零时,根据确定的与多个所述存储节点匹配的数量以及所述存储节点的容量,确定第一存储节点;所述布隆过滤器存储了多个所述存储节点,且所述存储节点中存储的全部所述超块的代表指纹;将所述超块发送至所述第一存储节点,根据从所述超块内选择的具有最小指纹的数据块从所述第一存储节点内选择与所述最小指纹对应的容器编号;当确定与所述容器编号对应的所述最小指纹以及与所述最小指纹对应的所述数据块存储在缓存数据库中时,则将与所述最小指纹以及与所述最小指纹对应的所述数据块删除。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于西北工业大学,未经西北工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201711119659.9/,转载请声明来源钻瓜专利网。