[发明专利]基于日志文件的数据解析方法、系统及装置在审

专利信息
申请号: 201911018843.3 申请日: 2019-10-24
公开(公告)号: CN110866022A 公开(公告)日: 2020-03-06
发明(设计)人: 崔云鹏 申请(专利权)人: 贝壳技术有限公司
主分类号: G06F16/23 分类号: G06F16/23;G06F16/25
代理公司: 北京润平知识产权代理有限公司 11283 代理人: 肖冰滨;王晓晓
地址: 300280 天津市滨海新区南港*** 国省代码: 天津;12
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 基于 日志 文件 数据 解析 方法 系统 装置
【权利要求书】:

1.一种基于日志文件的数据解析方法,其特征在于,所述方法包括:

将数据库接入日志解析组件,以

将数据库的原始日志文件解析为目标格式;

基于所述目标格式的日志文件,添加与所述日志文件相对应的事件解析表达式;

通过所述事件解析表达式将所述日志文件的变更解析为新事件;

将解析生成的新事件输出。

2.根据权利要求1所述的基于日志文件的数据解析方法,其特征在于,所述基于所述目标格式的日志文件,添加与所述日志文件相对应的事件解析表达式,包括:

基于所述目标格式的日志文件,根据所述日志文件中涉及的表的特征添加与其相对应的事件解析表达式。

3.根据权利要求1所述的基于日志文件的数据解析方法,其特征在于,所述通过所述事件解析表达式将所述日志文件的变更解析为新事件,包括:

通过所述事件解析表达式根据所述日志文件的新增字段、更新字段或删除字段进行判断,将某个字段的变更解析为一个新事件。

4.根据权利要求1所述的基于日志文件的数据解析方法,其特征在于,所述将解析生成的新事件输出,包括:

根据所述日志文件的事件输出配置信息将解析生成的新事件输出到对应的消息队列、数据库或API。

5.根据权利要求1所述的基于日志文件的数据解析方法,其特征在于,所述日志解析组件是Canal组件。

6.根据权利要求5所述的基于日志文件的数据解析方法,其特征在于,通过所述Canal组件将数据库的原始日志文件解析为JSON格式。

7.一种基于日志文件的数据解析系统,其特征在于,所述系统包括:

数据输入层,包括日志解析组件,通过所述日志解析组件将接收到的原始日志文件解析为目标格式;

解析层,用于添加与日志文件相对应的事件解析表达式,通过所述事件解析表达式将所述日志文件的变更解析为新事件;

数据输出层,用于将解析生成的新事件输出。

8.根据权利要求7所述的基于日志文件的数据解析系统,其特征在于,所述解析层用于添加与日志文件相对应的事件解析表达式,通过所述事件解析表达式将所述日志文件的变更解析为新事件,包括:

所述解析层根据所述日志文件中涉及的表的特征添加与其相对应的事件解析表达式,通过任务调度器对所述日志文件中的各个表进行策略调度,派发到对应的事件解析表达式,通过所述事件解析表达式将所述日志文件中某个字段的变更解析为新事件。

9.一种基于日志文件的数据解析装置,其特征在于,所述装置包括:存储器和处理器;

所述存储器,用于存储程序指令;

所述处理器,用于调用所述存储器中存储的所述程序指令以实现权利要求1至6中任一项所述的基于日志文件的数据解析方法步骤。

10.一种存储介质,其上存储有计算机程序指令,其特征在于,所述计算机程序指令被处理器执行时实现权利要求1至6中任一项所述的基于日志文件的数据解析方法步骤。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于贝壳技术有限公司,未经贝壳技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201911018843.3/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top