[发明专利]一种数据转换的方法、装置及存储介质有效
申请号: | 201911403886.3 | 申请日: | 2019-12-30 |
公开(公告)号: | CN111177247B | 公开(公告)日: | 2023-10-20 |
发明(设计)人: | 缪洲光 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F16/25 | 分类号: | G06F16/25 |
代理公司: | 北京同达信恒知识产权代理有限公司 11291 | 代理人: | 李娟 |
地址: | 518044 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 转换 方法 装置 存储 介质 | ||
本申请提供一种数据转换的方法、装置及存储介质,用以提高数据转换的效率,及数据转换的灵活性。在本申请中响应数据转换指令,将数据转换指令对应的目标表信息、数据转换指令对应的原始表,以及数据转换指令对应的转换模式的预设基础脚本进行组合,生成目标脚本;调用NiFi工具的API接口创建任务流,并在任务流中设置目标脚本,以在运行任务流时,通过预先开发的处理节点执行目标脚本,进行数据转换。预先开发处理节点,以执行目标脚本,目标脚本是通过数据转换指令生成的;处理节点可以执行不同数据转换指令生成的目标脚本,具有通用性,且每次进行数据转换时,无需用户编写定制化脚本,简化操作,提高数据转换的灵活性和数据转换效率。
技术领域
本申请涉及计算机技术领域,提供一种数据转换的方法、装置及存储介质。
背景技术
数据转换是将数据从一种表示形式转变为另一种表示形式,例如,软件的全面升级带来数据库的全面升级,每一个软件对其后面的数据库的构架与数据的存诸形式都是不相同的,需要经常对数据进行导入、导出和数据转换。再例如,由于数据量的不断增加,原来数据构架设计不合理,不能满足各方面的要求,由于数据库的更换,数据结构的更换,从而需要数据本身的转换。
目前,在进行数据转换时,针对不同的数据转换任务,在每个数据转换的任务流中都增加一个业务定制化脚本;执行业务定制化脚本,进行数据转换;业务定制化脚本是用户自身编写的程序代码,仅能针对指定数据进行特定转换。
需要对每个任务流增加业务定制化脚本,降低了数据转换的灵活性和数据转换效率。
发明内容
本申请实施例提供一种数据转换的方法、装置及存储介质,用以提高数据转换的效率,及数据转换的灵活性。
第一方面,本申请提供一种数据转换的方法,该方法包括:
响应数据转换指令,将数据转换指令对应的目标表信息、数据转换指令对应的原始表,以及数据转换指令对应的转换模式预设基础脚本进行组合,生成目标脚本;
调用NiFi工具的API(Application Programming Interface,应用程序接口)接口创建任务流,并在任务流中设置目标脚本,以在运行任务流时,通过预先开发的处理节点执行目标脚本,进行数据转换。
第二方面,本申请提供一种数据转换的方法,该方法包括:
响应创建任务流的指令,基于预先创建的转换模板创建任务流,并在任务流中设置目标脚本,其中,目标脚本是数据治理平台在响应数据转换指令后,根据数据转换指令对应的目标表信息、数据转换指令对应的原始表,以及数据转换指令对应的转换模式预设基础脚本进行组合生成的;
响应运行任务流的指令,执行目标脚本,读取目标脚本中原始表的数据,确定需要进行数据转换的数据;
将需要进行数据转换的数据转换成目标数据,并写入目标脚本对应的目标表中。
第三方面,本申请实施例提供一种数据转换的装置,该装置包括:
响应模块,用于响应数据转换指令,将数据转换指令对应的目标表中的信息、数据转换指令对应的原始表,以及数据转换指令对应的转换模式预设基础脚本进行组合,生成目标脚本;
调用模块,用于调用NiFi工具的应用程序接口API接口创建任务流,并在任务流中设置目标脚本,以在运行任务流时,通过预先开发的处理节点执行目标脚本,进行数据转换。
在一种可能的实现方式中,响应模块具体用于:
将目标表中的各个字段名,以及各个字段名对应的转换函数,按照字段名与转换函数之间的对应关系,填写到转换模式的预设基础脚本的第一设定位置上;以及
将原始表的数据填写到转换模式的预设基础脚本的第二设定位置上。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911403886.3/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种压力传感器及制备方法
- 下一篇:一种数据处理方法、装置及电子设备
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置