[发明专利]一种跨数据中心的ETL工具有效
| 申请号: | 202110552855.5 | 申请日: | 2021-05-20 |
| 公开(公告)号: | CN113312416B | 公开(公告)日: | 2022-09-09 |
| 发明(设计)人: | 兰波;莫加龙;万乐园;张鼎浩;张杰;龚连胜;杜在乾 | 申请(专利权)人: | 成都美尔贝科技股份有限公司 |
| 主分类号: | G06F16/25 | 分类号: | G06F16/25;G06F16/215 |
| 代理公司: | 成都弘毅天承知识产权代理有限公司 51230 | 代理人: | 岳子强 |
| 地址: | 610000 四川省*** | 国省代码: | 四川;51 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 数据中心 etl 工具 | ||
1.一种跨数据中心的ETL工具,其特征在于:包括任务调度模块、数据清洗模块、上传模块和存储模块,其中:
所述任务调度模块,用于创建需要清洗的任务,并将任务存储在第一数据中心的数据库中;
所述数据清洗模块,获取第一数据中心的数据库中需要清洗的任务的计划,拆分任务中的结构化数据和非结构化数据;
所述上传模块,用于获取任务中结构化数据推送到第一数据中心的redis队列中进行清洗和入库,用于获取任务中的非结构化数据推送到第二数据中心的redis队列中进行清洗;
所述存储模块,用于获取第二数据中心清洗的数据存储到第三数据中心的数据库。
2.根据权利要求1所述的一种跨数据中心的ETL工具,其特征在于:所述任务调度模块为定时或固定间隔时间创建需要清洗的任务。
3.根据权利要求1所述的一种跨数据中心的ETL工具,其特征在于:所述非结构化数据包括图片或/和视频或/和音频。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于成都美尔贝科技股份有限公司,未经成都美尔贝科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110552855.5/1.html,转载请声明来源钻瓜专利网。





