[发明专利]一种老化历史数据的方法和装置在审
申请号: | 201910563330.4 | 申请日: | 2019-06-26 |
公开(公告)号: | CN110413587A | 公开(公告)日: | 2019-11-05 |
发明(设计)人: | 王超辉 | 申请(专利权)人: | 苏州浪潮智能科技有限公司 |
主分类号: | G06F16/182 | 分类号: | G06F16/182;G06F16/16;G06F16/11 |
代理公司: | 北京连和连知识产权代理有限公司 11278 | 代理人: | 杨帆 |
地址: | 215100 江苏省苏州市吴*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 属性目录 配置文件 历史数据 保存 老化 方法和装置 老化数据 属性分类 自动地 集群 删除 存储 记录 | ||
1.一种老化历史数据的方法,其特征在于,包括以下步骤:
设置配置文件,所述配置文件中包括属性目录的路径和所述属性目录下数据的保存周期;
将待存储的数据按属性分类后,存入对应属性目录下的对应日期目录下;以及
根据所述配置文件中记录的所述属性目录的路径和所述保存周期,删除所述属性目录中的所述保存周期以外的日期目录中的数据。
2.根据权利要求1所述的方法,其特征在于,所述方法基于HDFS分布式文件系统。
3.根据权利要求2所述的方法,其特征在于,所述删除的数据进入所述HDFS分布式文件系统的回收箱,其中所述方法还包括:
根据所述配置文件,将被删除到所述回收箱中的所述删除数据彻底清除。
4.根据权利要求2所述的方法,其特征在于,所述根据所述配置文件中记录的属性目录的路径和所述保存周期,删除所述属性目录中的所述保存周期以外的日期目录中的数据包括:
读取所述配置文件获取属性目录的路径和保存周期,找到所述属性目录并遍历下级日期目录,根据系统时间和所述保存周期推算需要保存的数据和需要删除的数据。
5.根据权利要求4所述的方法,其特征在于,所述根据所述配置文件中记录的所述数据的属性目录的路径和所述保存周期,删除所述属性目录中的所述保存周期以外的数据还包括:
通过调用Hadoop的API将所述属性目录中的所述保存周期以外的数据进行删除。
6.根据权利要求3所述的方法,其特征在于,所述根据所述配置文件,将被删除到所述回收箱中的所述删除数据彻底清除包括:根据所述配置文件中记录的属性目录和保存周期,将被移到回收箱中的所述删除数据彻底清除,以释放集群存储空间。
7.一种老化历史数据的装置,其特征在于,包括至少一个处理器和存储器,所述存储器存储有处理器可运行的程序代码,所述程序代码在被处理器运行时执行以下步骤:
设置配置文件,所述配置文件中包括属性目录的路径和所述属性目录下数据的保存周期;
将待存储的数据按属性分类后,存入对应属性目录下的对应日期目录下;以及
根据所述配置文件中记录的所述数据的属性目录的路径和所述保存周期,删除所述属性目录中的所述保存周期以外的日期目录中的数据。
8.根据权利要求7所述的装置,其特征在于,所述装置应用于HDFS分布式文件系统。
9.根据权利要求8所述的装置,其特征在于,所述步骤还包括:通过调用Hadoop的API将所述属性目录中的所述保存周期以外的数据删除到所述HDFS分布式文件系统的回收箱。
10.根据权利要求9所述的装置,其特征在于,所述步骤还包括:根据所述配置文件,将被删除到所述回收箱中的所述删除数据彻底清除。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州浪潮智能科技有限公司,未经苏州浪潮智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910563330.4/1.html,转载请声明来源钻瓜专利网。