[发明专利]一种Hbase数据库中数据压缩的方法、装置、设备及介质在审
申请号: | 202210182764.1 | 申请日: | 2022-02-27 |
公开(公告)号: | CN114546968A | 公开(公告)日: | 2022-05-27 |
发明(设计)人: | 李勇 | 申请(专利权)人: | 苏州浪潮智能科技有限公司 |
主分类号: | G06F16/174 | 分类号: | G06F16/174;G06F16/22;G06F16/2455;G06F16/27 |
代理公司: | 北京连和连知识产权代理有限公司 11278 | 代理人: | 刘小峰;张涛 |
地址: | 215000 江苏省苏州*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 hbase 数据库 数据压缩 方法 装置 设备 介质 | ||
1.一种Hbase数据库中数据压缩的方法,其特征在于,包括以下步骤:
响应于Hbase数据库的写缓存中的数据flush,将数据存储到存储器中的第一区域中;
响应于第一区域中的数据超过第一阈值,将第一区域中的数据合并成一个大数据;
响应于第一区域中的数据超过第二阈值,将第一区域中的数据进行合并,并计算合并后的数据的key值,并将第一区域中合并后的数据存储到第二区域中所述key值对应的key值区间对应的存储空间中;
每经过第二区域的阈值时间后,将第二区域中各个key值区间中的数据各自合并后存储到第三区域中对应的key值区间对应的存储空间中,每经过第三区域的阈值时间后,将第三区域中各个key值区间中的数据各自合并后存储到第四区域中对应的key值区间对应的存储空间中,依次类推,直到将数据存储到第六区域中。
2.根据权利要求1所述的方法,其特征在于,还包括:
将存储器划分成六个区域,所述六个区域分别为第一区域、第二区域、第三区域、第四区域、第五区域和第六区域;
将所述第二区域、第三区域、第四区域、第五区域和第六区域的存储空间按照key值的区间划分成若干个小的存储空间。
3.根据权利要求1所述的方法,其特征在于,响应于第一区域中的数据超过第一阈值,将第一区域中的数据合并成一个大数据包括:
使用第一区域中数据的总大小除于文件数得到计算值;
判断计算值是否超过设定的第一阈值;
响应于计算值超过第一阈值,将第一区域中的数据合并成一个大数据。
4.根据权利要求1所述的方法,其特征在于,响应于第一区域中的数据超过第二阈值,将第一区域中的数据进行合并,并计算合并后的数据的key值,并将第一区域中合并后的数据存储到第二区域中所述key值对应的key值区间对应的存储空间中包括:
响应于第一区域中的数据总量达到第一区域的存储空间的80%,将第一区域中的数据进行合并;
通过计算合并后的数据的hash值以得到合并后的数据的key值;
将第一区域中合并后的数据存储到第二区域中计算的key值对应的key值区间对应的存储空间中。
5.一种Hbase数据库中数据压缩的装置,其特征在于,所述装置包括:
存储模块,所述存储模块配置为响应于Hbase数据库的写缓存中的数据flush,将数据存储到存储器中的第一区域中;
合并模块,所述合并模块配置为响应于第一区域中的数据超过第一阈值,将第一区域中的数据合并成一个大数据;
计算模块,所述计算模块配置为响应于第一区域中的数据超过第二阈值,将第一区域中的数据进行合并,并计算合并后的数据的key值,并将第一区域中合并后的数据存储到第二区域中所述key值对应的key值区间对应的存储空间中;
处理模块,所述处理模块配置为每经过第二区域的阈值时间后,将第二区域中各个key值区间中的数据各自合并后存储到第三区域中对应的key值区间对应的存储空间中,每经过第三区域的阈值时间后,将第三区域中各个key值区间中的数据各自合并后存储到第四区域中对应的key值区间对应的存储空间中,依次类推,直到将数据存储到第六区域中。
6.根据权利要求5所述的装置,其特征在于,还包括划分模块,所述划分模块配置为:
将存储器划分成六个区域,所述六个区域分别为第一区域、第二区域、第三区域、第四区域、第五区域和第六区域;
将所述第二区域、第三区域、第四区域、第五区域和第六区域的存储空间按照key值的区间划分成若干个小的存储空间。
7.根据权利要求5所述的装置,其特征在于,所述合并模块还配置为:
使用第一区域中数据的总大小除于文件数得到计算值;
判断计算值是否超过设定的第一阈值;
响应于计算值超过第一阈值,将第一区域中的数据合并成一个大数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州浪潮智能科技有限公司,未经苏州浪潮智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210182764.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种低碳贝氏体钢的板形控制方法
- 下一篇:一种低成本的硫铵废液资源化处理工艺