[发明专利]一种集群日志存储方法、装置、设备及介质在审
申请号: | 202110873734.0 | 申请日: | 2021-07-30 |
公开(公告)号: | CN113722284A | 公开(公告)日: | 2021-11-30 |
发明(设计)人: | 董俊明 | 申请(专利权)人: | 济南浪潮数据技术有限公司 |
主分类号: | G06F16/18 | 分类号: | G06F16/18;G06F16/182;G06F16/174;G06F3/06 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 王晓坤 |
地址: | 250101 山东省济南市自由贸易试验区*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 集群 日志 存储 方法 装置 设备 介质 | ||
1.一种集群日志存储方法,其特征在于,包括:
统计集群中各目标模块的日志文件的访问频次;
基于所述访问频次确定各所述目标模块对应的压缩属性;其中,所述压缩属性包括压缩和不压缩;
当监测到集群中有待存储日志,则确定所述待存储日志对应的所述压缩属性;
若所述压缩属性为不压缩,则将所述待存储日志存储至日志缓存区,否则,将所述待存储日志压缩以得到第一压缩日志,并将所述第一压缩日志存储至静态存储区。
2.根据权利要求1所述的集群日志存储方法,其特征在于,所述统计集群中各目标模块的日志文件的访问频次,包括:
统计各功能模块以及各所述功能模块的子模块的日志文件的访问频次;
相应的,所述基于所述访问频次确定各所述目标模块对应的压缩属性,包括:
基于所述访问次数确定各所述目标模块对应的压缩属性;其中,所述压缩属性为不压缩的所述功能模块的所述访问频次高于所述压缩属性为压缩的所述功能模块的所述访问频次,所述压缩属性为不压缩的所述子模块的所述访问频次高于所述压缩属性为压缩的所述子模块的所述访问频次。
3.根据权利要求2所述的集群日志存储方法,其特征在于,所述基于所述访问频次确定各所述目标模块对应的压缩属性,包括:
对各所述功能模块的日志文件的访问频次排序;
筛选出所述访问频次最高的预设数量个所述功能模块,得到第一模块;
将所述第一模块的压缩属性确定为不压缩,所述功能模块中的非第一模块的压缩属性确定为压缩;
对所述功能模块中非第一模块的全部子模块的日志文件的访问频次排序;
将所述访问频次最高的第一预设比例的所述子模块的压缩属性确定为不压缩,非第一模块的其他子模块的压缩属性确定为压缩。
4.根据权利要求3所述的集群日志存储方法,其特征在于,还包括:
将各所述目标模块的所述压缩属性存储至日志基础库;
相应的,所述确定所述待存储日志对应的所述压缩属性,包括:
从所述日志基础库中,查找所述待存储日志所属功能模块的压缩属性,若所属功能模块的压缩属性为不压缩,则确定所述待存储日志对应的压缩属性确定为不压缩;若所属功能模块的压缩属性为压缩,则查找所述待存储日志所属子模块的压缩属性,若所属子模块的压缩属性为不压缩,则确定所述待存储日志对应的压缩属性确定为不压缩,否则,确定所述待存储日志对应的压缩属性确定为压缩。
5.根据权利要求1所述的集群日志存储方法,其特征在于,还包括:
当将所述待存储日志存储至日志缓存区,则将所述待存储日志的过期时间存储至日志基础库;
以预设时间间隔或在指定时间,基于所述过期时间从所述日志缓存区中确定出目标日志;
将所述目标日志压缩,得到第二压缩日志;
将所述第二压缩日志迁移至所述静态存储区。
6.根据权利要求5所述的集群日志存储方法,其特征在于,所述基于所述过期时间从所述日志缓存区中确定出目标日志,包括:
基于所述过期时间从所述日志缓存区中确定出过期日志;
随机选取指定数量的所述过期日志,得到目标日志。
7.根据权利要求2所述的集群日志存储方法,其特征在于,还包括:
当所述日志缓存区的使用比例达到预设阈值,则对压缩属性为不压缩的全部子模块的日志文件的访问频次进行排序;
将所述访问频次最少的第二预设比例的子模块的日志文件压缩,得到第三压缩日志;
将所述第三压缩日志迁移至所述静态存储区。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于济南浪潮数据技术有限公司,未经济南浪潮数据技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110873734.0/1.html,转载请声明来源钻瓜专利网。