[发明专利]程序开发方法、ETL处理方法及装置有效
申请号: | 201611146167.4 | 申请日: | 2016-12-13 |
公开(公告)号: | CN107092474B | 公开(公告)日: | 2021-04-30 |
发明(设计)人: | 梁福坤;叶松 | 申请(专利权)人: | 北京星选科技有限公司 |
主分类号: | G06F8/30 | 分类号: | G06F8/30;G06F8/20;G06F16/25 |
代理公司: | 北京太合九思知识产权代理有限公司 11610 | 代理人: | 刘戈 |
地址: | 100096 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 程序 开发 方法 etl 处理 装置 | ||
1.一种程序开发方法,其特征在于,包括:
根据源数据的待处理对象,利用规则处理函数配置抽取-转换-装载ETL处理规则;
生成所述源数据的可执行程序;其中,所述可执行程序用于调用规则引擎解析所述ETL处理规则,以生成ETL处理脚本;
建立所述源数据的数据标识信息与所述ETL处理规则之间的对应关系;
所述ETL处理规则配置步骤包括:
将所述源数据的待处理对象作为所述规则处理函数的处理参数传入所述规则处理函数,以生成所述ETL处理规则,其中,所述规则处理函数是一种计算机函数,所述待处理对象为所述源数据中的字段名称,所述ETL处理规则能够按照所述规则处理函数规定的处理逻辑处理所述待处理对象。
2.根据权利要求1所述的方法,其特征在于,所述可执行程序生成步骤包括:
根据所述源数据的输入类型,利用代码生成技术生成输入代码;
根据所述源数据的期望输出类型,利用代码生成技术生成输出代码;
基于所述输入代码、所述输出代码以及主流程代码,生成所述可执行程序;所述主流程代码规定了所述规则引擎的调用。
3.根据权利要求2所述的方法,其特征在于,所述可执行程序生成步骤之前还包括:
显示多个输入类型以及多个输出类型;
响应于分别针对所述多个输入类型以及所述多个输出类型的选择,确定所述源数据的输入类型以及所述源数据的期望输出类型。
4.根据权利要求1所述的方法,其特征在于,所述ETL处理规则配置步骤之前还包括:
显示多个函数;
响应于针对所述多个函数的选择,确定被选择的规则处理函数。
5.根据权利要求1所述的方法,其特征在于,所述规则处理函数利用所述规则引擎支持的程序语言编译获得。
6.根据权利要求1所述的方法,其特征在于,所述ETL处理规则配置步骤包括:
接收配置请求;所述请求中携带所述源数据的待处理对象;
根据所述源数据的待处理对象,利用规则处理函数配置ETL处理规则。
7.根据权利要求1所述的方法,其特征在于,还包括:
将所述可执行程序以及所述ETL处理规则发送至分布式系统,以供所述分布式系统中的子节点运行。
8.一种ETL处理方法,其特征在于,包括:
获取源数据;
调用规则引擎解析预配置的ETL处理规则,以生成ETL处理脚本;其中,所述ETL处理规则根据所述源数据的待处理对象,利用规则处理函数配置获得,所述ETL处理规则与所述源数据的数据标识具有对应关系;
利用所述ETL处理脚本处理所述源数据,获得处理数据;
输出所述处理数据;
所述ETL处理规则配置步骤包括:
将所述源数据的待处理对象作为所述规则处理函数的处理参数传入所述规则处理函数,以生成所述ETL处理规则,其中,所述规则处理函数是一种计算机函数,所述待处理对象为所述源数据中的字段名称,所述ETL处理规则能够按照所述规则处理函数规定的处理逻辑处理所述待处理对象。
9.根据权利要求8所述的方法,其特征在于,所述获取源数据包括:
获取预配置的输入类型对应的源数据;
转换所述源数据的类型为预处理类型。
10.根据权利要求8或9所述的方法,其特征在于,所述处理数据输出步骤包括:
转换所述处理数据的类型为预配置的期望输出类型;
输出转换之后的所述处理数据。
11.根据权利要求8所述方法,其特征在于,所述获取源数据包括:
获取分布式系统的主节点分配的源数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京星选科技有限公司,未经北京星选科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201611146167.4/1.html,转载请声明来源钻瓜专利网。