[发明专利]通用的原始日志清洗装置及方法在审
| 申请号： | 201611183585.0 | 申请日： | 2016-12-20 |
| 公开（公告）号： | CN106599244A | 公开（公告）日： | 2017-04-26 |
| 发明（设计）人： | 张亚军;田文宝;夏鹏 | 申请（专利权）人： | 飞狐信息技术（天津）有限公司 |
| 主分类号： | G06F17/30 | 分类号： | G06F17/30 |
| 代理公司： | 天津创智天诚知识产权代理事务所(普通合伙)12214 | 代理人： | 周庆路,田阳 |
| 地址： | 300000 天津市滨海新区天津经济开*** | 国省代码： | 天津;12 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | |||
| 搜索关键词： | 通用 原始 日志 清洗 装置 方法 | ||
1.一种通用的原始日志清洗装置，其特征在于，包括，
变量存储模块，用于存储与每类日志对应的元数据，与各元数据对应的正则表达式及匹配的字段；
配置模块，用于配置多个清洗任务、每个清洗任务对应的清洗前后日志的存储路径、存储格式及压缩格式，所述的清洗任务与元数据一一对应；
清洗模块，根据日志类型识别对应的元数据，并根据任务配置采用mapreduce程序完成清洗逻辑并进行预设的存储。
2.如权利要求1所述的通用的原始日志清洗装置，其特征在于，所述的配置采用zookeeper进行存储。
3.一种通用的原始日志清洗方法，其特征在于，包括，
建立与每类日志对应的元数据，与各元数据对应正则表达式及匹配的字段并存储；
配置多个与元数据一一对应的清洗任务及每个清洗任务对应的存储路径、存储格式及压缩格式并存储；
根据日志类型识别对应的元数据，并根据清洗任务配置采用mapreduce程序完成清洗步骤并进行预设的存储。
4.如权利要求3所述的通用的原始日志清洗方法，其特征在于，所述的配置采用zookeeper进行存储。
5.如权利要求3所述的通用的原始日志清洗方法，其特征在于，在所述的清洗步骤中mapreduce程序根据输入数据的大小自动判断reduce的个数。
6.如权利要求3所述的通用的原始日志清洗方法，其特征在于，待清洗数据存储在hdfs目录中。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于飞狐信息技术（天津）有限公司，未经飞狐信息技术（天津）有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/pat/books/201611183585.0/1.html，转载请声明来源钻瓜专利网。
