[发明专利]日志数据采集系统及方法在审
| 申请号： | 201910022404.3 | 申请日： | 2019-01-10 |
| 公开（公告）号： | CN109525448A | 公开（公告）日： | 2019-03-26 |
| 发明（设计）人： | 任彧雄 | 申请（专利权）人： | 北京智信未来信息技术有限公司 |
| 主分类号： | H04L12/24 | 分类号： | H04L12/24;H04L12/26 |
| 代理公司： | 北京市鼎立东审知识产权代理有限公司 11751 | 代理人： | 陈佳妹 |
| 地址： | 100086 北京市*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | |||
| 搜索关键词： | 日志数据 配置文件 采集 采集系统 传输方式 传输路径 采集层 汇聚层 通信头 传输 数据流生成 缓存 管理成本 流式传输 目标介质 消息队列 信息确定 写入 标准化 存储 服务 | ||
1.一种日志数据采集系统，其特征在于，包括：
flume采集层模块，用于采集指定服务的日志数据，针对每一条采集数据流生成对应的配置文件，将所述配置文件写入flume通信头信息进行传输；
flume汇聚层模块，接收所述flume采集层模块传输的日志数据，根据所述flume通信头信息确定对应的日志数据的传输方式和传输路径；
Kafka消息队列层模块，用于根据所述传输方式缓存所述flume汇聚层模块传输的日志数据；
数据消费者层模块，用于针对每一个配置文件对应的日志数据启动一个数据消费者，并根据所述传输路径存储至目标介质。
2.根据权利要求1所述的日志数据采集系统，其特征在于，flume采集层模块针对每一条采集数据流生成对应的配置文件，为针对每一条采集数据流生成对应的标识ID，根据所述标识ID生成对应的配置文件。
3.根据权利要求2所述的日志数据采集系统，其特征在于，所述配置文件包括所述对应采集数据流的关联服务ID，服务日志路径，服务日志关联Kafka Topic，服务日志存储介质路径。
4.根据权利要求3所述的日志数据采集系统，其特征在于，
所述服务日志路径基于所述关联服务ID生成；并且/或者
所述服务日志关联Kafka Topic基于所述标识ID生成；并且/或者
所述服务日志存储介质路径基于所述标识ID生成。
5.根据权利要求4所述的日志数据采集系统，其特征在于，所述flume汇聚层模块通过启动一组公用flume汇聚节点接收所述flume采集层模块传输的日志数据。
6.一种日志数据采集方法，其特征在于，包括：
采集指定服务的日志数据，针对每一条采集数据流生成对应的配置文件，将所述配置文件写入flume通信头信息进行传输；
接收所述采集的日志数据，根据所述flume通信头信息确定对应的日志数据的传输方式和传输路径；
根据所述传输方式缓存所述flume汇聚层模块传输的日志数据；
针对每一个配置文件对应的日志数据启动一个数据消费者，根据所述传输路径存储至目标介质。
7.根据权利要求6所述的日志数据采集方法，其特征在于，针对每一条采集数据流生成对应的配置文件的步骤，为针对每一条采集数据流生成对应的标识ID，根据所述标识ID生成对应的配置文件。
8.根据权利要求7所述的日志数据采集方法，其特征在于，所述配置文件包括所述对应采集数据流的关联服务ID，服务日志路径，服务日志关联Kafka Topic，服务日志存储介质路径。
9.根据权利要求8所述的日志数据采集方法，其特征在于，还包括如下步骤：
基于所述关联服务ID生成所述服务日志路径；
基于所述标识ID生成所述服务日志关联Kafka Topic；
基于所述标识ID生成所述服务日志存储介质路径。
10.根据权利要求6所述的日志数据采集方法，其特征在于，所述接收所述采集的日志数据的步骤，还包括启动一组公用flume汇聚节点接收所述flume采集层模块传输的日志数据。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京智信未来信息技术有限公司，未经北京智信未来信息技术有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/pat/books/201910022404.3/1.html，转载请声明来源钻瓜专利网。
