[发明专利]基于内存计算、web可视化配置的多数据源ETL工具在审
| 申请号: | 202010856829.7 | 申请日: | 2020-08-24 |
| 公开(公告)号: | CN112035468A | 公开(公告)日: | 2020-12-04 |
| 发明(设计)人: | 王一君;陈灿;王长振;谢鸿旺 | 申请(专利权)人: | 杭州览众数据科技有限公司 |
| 主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/25;G06F16/26;G06F16/28 |
| 代理公司: | 杭州君度专利代理事务所(特殊普通合伙) 33240 | 代理人: | 朱月芬 |
| 地址: | 310000 浙江省杭州市滨*** | 国省代码: | 浙江;33 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | 本发明公开了基于内存计算、web可视化配置的多数据源ETL工具,其特征在于包括数据源层、作业层及目标数仓层,数据源层用于连接客户的数据关系数据库;作业层包括数据源层与目标数仓层的映射配置以及基于spark的数据传输模块;映射配置体现在目标数仓层中数仓目标表与数据源层中数据来源业务表之间的关系;基于spark的数据传输模块能够使用spark的dataframe写表的自动建表功能,提高数据传输效率;目标数仓为公司研发的使用经典的4层架构标准数仓。本发明全部基于内存实现,性能相比现有工具和方法更高效。本发明通用性好,基本所有数据源通过Java接口都通用。本发明针对公司内部需要针对性研发,适用于拥有标准的大数据产品及后台表结构的大数据服务公司。 | ||
| 搜索关键词: | 基于 内存 计算 web 可视化 配置 多数 etl 工具 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州览众数据科技有限公司,未经杭州览众数据科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202010856829.7/,转载请声明来源钻瓜专利网。
- 上一篇:一种蜡烛漆及其生产工艺
- 下一篇:一种自动输送生产线在线清洗设备





