[发明专利]一种基于Apache Flink的ETL数据处理系统及方法在审
申请号: | 202211675433.8 | 申请日: | 2022-12-26 |
公开(公告)号: | CN115757597A | 公开(公告)日: | 2023-03-07 |
发明(设计)人: | 潘志威;王钊哲;王建业;明勇杰;袁文媛;杜利达;张楠;李霄 | 申请(专利权)人: | 河钢数字技术股份有限公司 |
主分类号: | G06F16/25 | 分类号: | G06F16/25;G06F16/245 |
代理公司: | 石家庄知住优创知识产权代理事务所(普通合伙) 13131 | 代理人: | 王丽巧 |
地址: | 050000 河北省石家庄市高*** | 国省代码: | 河北;13 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供了一种基于Apache Flink的ETL数据处理系统及方法,系统包括数据源组件配置服务模块、数据转换组件配置服务模块、ETL任务配置服务模块、ETL任务解析器和ETL任务监控服务模块;数据源组件配置服务模块用于对不同类型的数据源组件进行配置,数据转换组件配置服务模块用于对不同类型的数据转换组件进行配置,ETL任务配置服务模块用于配置ETL任务所需要的数据源组件和数据转换组件及转换流程;ETL任务解析器用于对待执行的ETL任务进行解析并将解析后的任务信息发送给远程集群运行;ETL任务监控服务模块用于对远程集群的ETL任务运行状态进行监控。本发明支持连接多种异构数据源并以数据流的形式在系统中传递,提供对数据流进行数据转换的操作。 | ||
搜索关键词: | 一种 基于 apache flink etl 数据处理系统 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于河钢数字技术股份有限公司,未经河钢数字技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202211675433.8/,转载请声明来源钻瓜专利网。
- 上一篇:基于物联网的多协议视频融合网关
- 下一篇:一种沥青的3D摊铺装置