[发明专利]日志数据传输方法、装置和设备有效
申请号: | 201811609311.2 | 申请日: | 2018-12-26 |
公开(公告)号: | CN111371586B | 公开(公告)日: | 2023-01-10 |
发明(设计)人: | 陈东沂;姚小龙;郭林东 | 申请(专利权)人: | 顺丰科技有限公司 |
主分类号: | H04L41/069 | 分类号: | H04L41/069;H04L43/08 |
代理公司: | 北京志霖恒远知识产权代理有限公司 11435 | 代理人: | 郭栋梁 |
地址: | 518061 广东省深圳市南山区学府路(以南)*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 日志 数据传输 方法 装置 设备 | ||
1.一种日志数据传输方法,其特征在于,该方法包括:
监听应用程序产生的日志数据;
实时地将所述日志数据发送至Kafka消息队列的第一主题区域;
在所述日志数据推送出现异常时,重试发送所述日志数据,
如果重试成功,则停止发送所述日志数据至所述Kafka消息队列;
如果重试未成功,则进一步确定所述日志数据被发送的次数是否达到阈值;
如果达到所述阈值,则将所述日志数据发送到第二主题区域;
如果未达到所述阈值,则重试将所述日志数据发送到所述第一主题区域,并进行计数统计,以统计所述日志数据被发送的次数;
其中,所述实时地将所述日志数据推送至Kafka消息队列的第一主题区域,包括:
通过Formatter接口解析所述日志数据,并确定所述日志数据的目的地地址为所述Kafka消息队列的第一主题区域;
调用Kafka生产者接口将所述日志数据发送至所述第一主题区域。
2.根据权利要求1所述的方法,其特征在于,该方法还包括:
如果达到阈值,将所述日志数据记录到本地日志存储位置。
3.根据权利要求1所述的方法,其特征在于,该方法还包括:
在所述日志数据发送正常时,按照所述Kafka消息队列的发送模式配置ACK响应消息。
4.根据权利要求1所述的方法,其特征在于,在监听到应用程序产生的日志数据之前,该方法还包括:
在所述应用程序中预先注册自定义的KafkaAppender类,通过所述KafkaAppender类来对所述日志数据进行监听、发送及异常处理。
5.一种日志数据传输装置,其特征在于,该装置包括:
监听单元,用于监听应用程序产生的日志数据;
消息发送单元,用于实时地将所述日志数据发送至Kafka消息队列的第一主题区域;
异常处理单元,用于在所述日志数据发送出现异常时,重试发送所述日志数据,
如果重试成功,则停止发送所述日志数据至Kafka消息队列;
如果重试未成功,则进一步确定所述日志数据被发送的次数是否达到阈值;
如果达到所述阈值,则将所述日志数据推送到第二主题区域;
如果未达到所述阈值,则重试将所述日志数据发送到第一主题区域,并触发计数单元执行加1;
所述计数单元,用于统计所述日志数据被发送的次数;
其中,所述消息发送单元包括:
解析子单元,用于通过Formatter接口解析所述日志数据,并确定所述日志数据的目的地地址为所述Kafka消息队列的第一主题区域;
调用子单元,用于调用Kafka生产者接口将所述日志数据发送至所述第一主题区域。
6.根据权利要求5所述的装置,其特征在于,该装置还包括:
记录单元,用于如果达到阈值,将所述日志数据记录到本地日志存储位置。
7.根据权利要求5-6任一项所述的装置,其特征在于,该装置还包括:
配置单元,用于在所述日志数据发送正常时,按照所述Kafka消息队列的发送模式配置ACK响应消息。
8.一种计算机设备,包括存储器、处理器以及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1-4中任一项所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于顺丰科技有限公司,未经顺丰科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811609311.2/1.html,转载请声明来源钻瓜专利网。