[发明专利]基于Flink实时任务脏数据插件化管理的方法和系统在审
申请号: | 202110771629.6 | 申请日: | 2021-07-08 |
公开(公告)号: | CN113407365A | 公开(公告)日: | 2021-09-17 |
发明(设计)人: | 温天柱 | 申请(专利权)人: | 杭州玳数科技有限公司 |
主分类号: | G06F9/54 | 分类号: | G06F9/54;G06F16/215 |
代理公司: | 常州佰业腾飞专利代理事务所(普通合伙) 32231 | 代理人: | 陈红桥 |
地址: | 310030 浙江省杭州市西湖区*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供了一种基于Flink实时任务脏数据插件化管理的方法和系统,其中方法包括:脏数据管理者获取脏数据配置信息,实例化脏数据管理者,实例化对应的脏数据插件对象;脏数据管理者收集任务产生的脏数据及异常原因,将脏数据及异常原因存入消息队列;脏数据管理者启动脏数据插件对象中的脏数据消费者;脏数据消费者轮训消费消息队列中的脏数据;如果脏数据消费者消费消息队列中的脏数据成功,脏数据管理者将脏数据消费计数值加1,直至脏数据消费计数值达到预设脏数据消费计数值,确定任务失败;如果脏数据消费者消费消息队列中的脏数据失败,脏数据管理者将失败数据计数值加1,直至失败数据计数值达到预设失败数据计数值,确定任务失败。 | ||
搜索关键词: | 基于 flink 实时 任务 数据 插件 管理 方法 系统 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州玳数科技有限公司,未经杭州玳数科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202110771629.6/,转载请声明来源钻瓜专利网。
- 上一篇:一种浓香型大曲酒酒糟果醋的制备方法
- 下一篇:一种节能型丝光纺织用去碱设备