[发明专利]一种数据转换的方法、装置及存储介质有效
申请号: | 201911403886.3 | 申请日: | 2019-12-30 |
公开(公告)号: | CN111177247B | 公开(公告)日: | 2023-10-20 |
发明(设计)人: | 缪洲光 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F16/25 | 分类号: | G06F16/25 |
代理公司: | 北京同达信恒知识产权代理有限公司 11291 | 代理人: | 李娟 |
地址: | 518044 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 转换 方法 装置 存储 介质 | ||
1.一种数据转换的方法,其特征在于,该方法包括:
响应数据转换指令,将所述数据转换指令对应的目标表信息、所述数据转换指令对应的原始表,以及所述数据转换指令对应的转换模式的预设基础脚本进行组合,生成目标脚本;
调用NiFi工具的应用程序接口API接口创建任务流,并在所述任务流中设置所述目标脚本,以在运行所述任务流时,通过预先开发的处理节点执行所述目标脚本,进行数据转换。
2.如权利要求1所述的方法,其特征在于,所述将所述数据转化指令对应的目标表信息、所述数据转换指令对应的原始表,以及所述数据转换指令对应的转换模式的预设基础脚本进行组合,生成目标脚本,包括:
将所述目标表中的各个字段名,以及所述各个字段名对应的转换函数,按照字段名与转换函数之间的对应关系,填写到所述转换模式的预设基础脚本的第一设定位置上;以及
将所述原始表的数据填写到所述转换模式的预设基础脚本的第二设定位置上。
3.如权利要求1或2所述的方法,其特征在于,所述目标表信息是通过如下方式确定的:
响应配置字段变换指令,根据所述配置字段变换指令对应的字段名及每个字段名对应的转换函数,确定所述目标表信息;
其中,所述字段名是在对原始表配置表组合后,确定的备选字段名中选择的。
4.如权利要求1所述的方法,其特征在于,所述调用NiFi工具的API接口创建任务流,并在所述任务流中设置所述目标脚本,包括:
调用所述NiFi工具的API接口创建任务流,并在所述任务流创建成功后,调用所述NiFi工具的API接口,在所述任务流中设置所述目标脚本。
5.如权利要求1所述的方法,其特征在于,所述调用NiFi工具的API接口创建任务流,并在所述任务流中设置所述目标脚本后,还包括:
响应目标脚本设置成功指令,并发送运行任务流的指令,以在运行所述任务流时,通过预先开发的处理节点执行所述目标脚本,根据所述目标表中的字段名在所述原始表的数据中确定需要进行数据转换的数据,并对所述需要进行数据转换的数据进行数据转换。
6.一种数据转换的方法,其特征在于,该方法包括:
响应创建任务流的指令,基于预先创建的转换模板创建任务流,并在所述任务流中设置目标脚本,其中,所述目标脚本是数据治理平台在响应数据转换指令后,根据所述数据转换指令对应的目标表信息、所述数据转换指令对应的原始表,以及所述数据转换指令对应的转换模式的预设基础脚本进行组合生成的;
响应运行任务流的指令,执行所述目标脚本,读取所述目标脚本中原始表的数据,确定需要进行数据转换的数据;
将所述需要进行数据转换的数据转换成目标数据,并写入所述目标脚本对应的目标表中。
7.如权利要求6所述的方法,其特征在于,所述响应运行任务流的指令,执行所述目标脚本,读取所述目标脚本中原始表的数据,确定需要进行数据转换的数据,包括:
通过预先开发的处理节点执行所述目标脚本,读取所述目标脚本中原始表的数据,根据所述目标脚本中目标表的字段名,在所述原始表的数据中确定需要进行数据转换的数据。
8.如权利要求7所述的方法,其特征在于,所述根据所述目标脚本中目标表的字段名,在所述原始表的数据中确定需要进行数据转换的数据,还包括:
根据所述目标脚本中目标表的字段名,以及所述目标脚本中预设基础脚本的运算逻辑,在所述原始表的数据中确定需要进行数据转换的数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911403886.3/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种压力传感器及制备方法
- 下一篇:一种数据处理方法、装置及电子设备
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置