[发明专利]SSH协议文本数据采集方法、采集器及计算机设备有效
申请号: | 201810235859.9 | 申请日: | 2018-03-21 |
公开(公告)号: | CN108449343B | 公开(公告)日: | 2021-07-09 |
发明(设计)人: | 邓少宝;傅斌;黄林峰;廖磊 | 申请(专利权)人: | 深圳天源迪科信息技术股份有限公司 |
主分类号: | H04L29/06 | 分类号: | H04L29/06 |
代理公司: | 深圳市德力知识产权代理事务所 44265 | 代理人: | 林才桂;刘巍 |
地址: | 518000 广东省深圳市南山区*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | ssh 协议 文本 数据 采集 方法 计算机 设备 | ||
本发明涉及一种SSH协议文本数据采集方法、采集器及计算机设备。该方法包括:步骤10、SSH资源池管理读取日志源文件所需的连接资源;步骤20、至少一读取组件争抢所述连接资源以读取日志源文件,如果所述SSH资源池没有空闲连接资源,读取组件会等待直到其他读取组件释放连接资源;步骤30、读取组件将读取到的日志源文件数据存放到共享内存中;步骤40、解析组件从所述共享内存中读取日志源文件数据并根据规则做结构化解析,然后将得到的结构化数据保存到所述共享内存中;步骤50、打包发送组件打包压缩从所述共享内存中获取的结构化数据,然后发送至消息中间件。本发明通过SSH协议远程采集目标机器上的文本数据,无需在目标机器上安装额外的程序。
技术领域
本发明涉及通信领域,尤其涉及一种SSH协议文本数据采集方法、采集器及计算机设备。
背景技术
随着企业信息化程度越来越高,面对着各类平台和系统产生的大量日志(设备日志、系统日志和应用日志等),如何充分发掘日志价值、提升基础运营能力、降低运营风险成为重要课题,建立满足日志的统一存储、统一查询、统一分析、数据共享、智能预警审计派单、运营评估分析形成评估报告等能力的统一日志平台势在必行。
现有技术中一般使用采集器来采集各种日志。现有的采集器,例如flume、logstash等,虽然功能强大、稳定且扩展性良好,但是它们都无法做到在目标机器完全不配合的情况下进行数据采集。
采集器作为日志平台的核心组成部分,现有很多成熟的产品,但这些产品大多数都是通过在目标机器上安装Agent代理程序实现,但是在生产环境中,企业一般不能接受这种方式,所以有必要研发一款利用通用协议进行远程采集的采集器。
发明内容
因此,本发明的目的在于提供一种SSH(安全外壳)协议文本数据采集方法、采集器及计算机设备、计算机可读存储介质,通过SSH协议远程采集目标机器上的文本数据。
为实现上述目的,本发明提供了一种SSH协议文本数据采集方法,包括:
步骤10、SSH资源池管理读取日志源文件所需的连接资源,以供读取组件读取日志源文件时申请连接资源;
步骤20、至少一读取组件争抢所述连接资源以读取日志源文件,如果所述SSH资源池没有空闲连接资源,读取组件会等待直到其他读取组件释放连接资源;
步骤30、读取组件将读取到的日志源文件数据存放到共享内存中;
步骤40、解析组件从所述共享内存中读取日志源文件数据并根据规则做结构化解析,然后将得到的结构化数据保存到所述共享内存中;
步骤50、打包发送组件打包压缩从所述共享内存中获取的结构化数据,然后发送至消息中间件。
其中,所述读取组件根据日志源文件进行创建,一个日志源文件对应一个读取组件。
其中,步骤30中,所述读取组件按行读取日志源文件数据。
本发明还提供了一种SSH协议文本数据采集器,包括:
SSH资源池,用于管理读取日志源文件所需的连接资源,读取组件读取日志源文件时需要向SSH资源池申请连接资源;
至少一读取组件,用于争抢所述连接资源以读取日志源文件,如果SSH资源池没有空闲连接资源,读取组件会等待直到其他读取组件释放连接资源;
共享内存,用于存储读取组件读取到的日志源文件数据;
解析组件,用于从所述共享内存中读取日志源文件数据并根据规则做结构化解析,然后将得到的结构化数据保存到所述共享内存中;以及
打包发送组件,用于打包压缩从所述共享内存中获取的结构化数据,然后发送至消息中间件。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳天源迪科信息技术股份有限公司,未经深圳天源迪科信息技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810235859.9/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种自适应易启动的振荡器幅度控制电路
- 下一篇:玩赏动物用的吸收性物品
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置