[发明专利]日志数据采集系统及方法在审
| 申请号： | 201910022404.3 | 申请日： | 2019-01-10 |
| 公开（公告）号： | CN109525448A | 公开（公告）日： | 2019-03-26 |
| 发明（设计）人： | 任彧雄 | 申请（专利权）人： | 北京智信未来信息技术有限公司 |
| 主分类号： | H04L12/24 | 分类号： | H04L12/24;H04L12/26 |
| 代理公司： | 北京市鼎立东审知识产权代理有限公司 11751 | 代理人： | 陈佳妹 |
| 地址： | 100086 北京市*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种日志数据采集系统，包括flume采集层模块，用于采集指定服务的日志数据，针对每一条采集数据流生成对应的配置文件，将所述配置文件写入flume通信头信息进行传输；flume汇聚层模块，接收所述flume采集层模块传输的日志数据，根据所述flume通信头信息确定对应的日志数据的传输方式和传输路径；Kafka消息队列层模块，用于根据所述传输方式缓存所述flume汇聚层模块传输的日志数据；数据消费者层模块，用于针对每一个配置文件对应的日志数据启动一个数据消费者，并根据所述传输路径存储至目标介质。同时，本发明还公开一种日志数据采集方法。本方案实现日志数据采集与流式传输的标准化，极大地降低操作和管理成本。 | ||
| 搜索关键词： | 日志数据 配置文件 采集 采集系统 传输方式 传输路径 采集层 汇聚层 通信头 传输 数据流生成 缓存 管理成本 流式传输 目标介质 消息队列 信息确定 写入 标准化 存储 服务 | ||
【主权项】：
1.一种日志数据采集系统，其特征在于，包括：flume采集层模块，用于采集指定服务的日志数据，针对每一条采集数据流生成对应的配置文件，将所述配置文件写入flume通信头信息进行传输；flume汇聚层模块，接收所述flume采集层模块传输的日志数据，根据所述flume通信头信息确定对应的日志数据的传输方式和传输路径；Kafka消息队列层模块，用于根据所述传输方式缓存所述flume汇聚层模块传输的日志数据；数据消费者层模块，用于针对每一个配置文件对应的日志数据启动一个数据消费者，并根据所述传输路径存储至目标介质。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京智信未来信息技术有限公司，未经北京智信未来信息技术有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201910022404.3/，转载请声明来源钻瓜专利网。
