[发明专利]基于数据的分布式ETL调度的方法和装置在审
申请号: | 201910949148.2 | 申请日: | 2019-10-08 |
公开(公告)号: | CN110795479A | 公开(公告)日: | 2020-02-14 |
发明(设计)人: | 李威;覃鹏;叶长全;刘增文;吴仰波 | 申请(专利权)人: | 中国建设银行股份有限公司;建信金融科技有限责任公司 |
主分类号: | G06F16/25 | 分类号: | G06F16/25;G06F9/48 |
代理公司: | 11219 中原信达知识产权代理有限责任公司 | 代理人: | 张一军;张效荣 |
地址: | 100033 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于数据的分布式ETL调度的方法和装置,涉及计算机技术领域。该方法的一具体实施方式包括:根据当前作业流的作业流配置表,确定当前作业流的数据源表;依据该数据源表查找所有作业流的作业流配置表,确定以该数据源表作为数据结果表的依赖作业流;当该依赖作业流执行成功时执行当前作业流,并将当前作业流的执行数据保存至当前作业流的数据结果表。该实施方式能够以生产时产生的中间结果数据作为数据源,减少作业依赖复杂度、减少冗余数据的产生且节省计算资源、提高调度效率。 | ||
搜索关键词: | 作业流 数据源表 数据结果 配置表 计算机技术领域 方法和装置 调度效率 计算资源 冗余数据 数据保存 中间结果 复杂度 数据源 查找 成功 生产 | ||
【主权项】:
1.一种基于数据的分布式ETL调度的方法,其特征在于,包括:/n根据当前作业流的作业流配置表,确定当前作业流的数据源表;/n依据所述数据源表查找所有作业流的作业流配置表,确定以所述数据源表作为数据结果表的依赖作业流;/n当所述依赖作业流执行成功时执行所述当前作业流,并将所述当前作业流的执行数据保存至所述当前作业流的数据结果表;/n其中,所述作业流配置表包括以下字段:作业流标识,数据源表的标识,数据结果表的标识。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国建设银行股份有限公司;建信金融科技有限责任公司,未经中国建设银行股份有限公司;建信金融科技有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910949148.2/,转载请声明来源钻瓜专利网。