[发明专利]基于DataX的民航数据同步方法及装置在审
申请号: | 202210102009.8 | 申请日: | 2022-01-27 |
公开(公告)号: | CN114519199A | 公开(公告)日: | 2022-05-20 |
发明(设计)人: | 张宇光;马维兵;陈星;范修伟;邓朝成;胡俊恒 | 申请(专利权)人: | 广州民航信息技术有限公司 |
主分类号: | G06F21/60 | 分类号: | G06F21/60;G06F21/62;G06F16/27 |
代理公司: | 广州智斧知识产权代理事务所(普通合伙) 44649 | 代理人: | 温嫦 |
地址: | 510700 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 datax 民航 数据 同步 方法 装置 | ||
1.一种基于DataX的民航数据同步方法,其特征在于,包括:
获取用户信息,基于用户信息配置用户权限;
获取目标数据源类型,配置数据库参数以构建用户数据源列表,并形成用户数据源列表对应的数据源的连接界面;
基于所述用户数据源列表选择数据源,并按照DataX的脚本规则构建所述数据源的同步任务脚本;
配置统一的接口接收所述同步任务脚本,并保存至对应的执行任务列表。
2.根据权利要求1所述的民航数据同步方法,其特征在于,所述获取用户信息,基于用户信息配置用户权限,包括:
获取任意一个用户所对应的身份信息、岗位信息;
基于所述身份信息和所述岗位信息配置该用户权限,所述用户权限包括用户同步数据权限,所述用户同步数据权限包括操作数据权限、维护下级用户的数据权限、关联下级用户的数据权限。
3.根据权利要求2所述的民航数据同步方法,其特征在于,所述获取目标数据源类型,配置数据库参数以构建用户数据源列表,并形成用户数据源列表对应的数据源的连接界面,包括:
根据民航数据库类型获得民航数据源类型,结合所述民航数据源类型和DataX支持的数据源类型选取对应的目标数据源类型,配置所述目标数据源类型对应的数据库参数;
根据用户权限结合所述目标数据源类型构建用户数据源列表;
配置所述用户数据源列表中每个目标数据源类型分别所对应的目标数据源的连接界面。
4.根据权利要求3所述的民航数据同步方法,其特征在于,所述基于所述用户数据源列表选择数据源,并按照DataX的脚本规则构建所述数据源的同步任务脚本,包括:
根据所述用户数据源列表调用所述数据源以及数据源字段信息,配置所述数据源字段信息与所述数据源的映射关系;
根据所述映射关系并按照DataX的脚本规则构建所述数据源的同步任务脚本。
5.根据权利要求4所述的民航数据同步方法,其特征在于,所述配置统一的接口接收所述同步任务脚本,并保存至对应的执行任务列表,包括:
将所述同步任务脚本保存为待执行任务;
配置统一的接口接收所述同步任务脚本,并保存至对应的执行任务列表。
6.根据权利要求5所述的民航数据同步方法,其特征在于,还包括:
配置执行器的执行定时参数,以生成执行计划;
基于所述执行计划执行所述执行任务列表中的同步任务脚本。
7.一种基于DataX的民航数据同步装置,其特征在于,包括:
用户信息获取模块:用于获取用户信息,基于用户信息配置用户权限;
数据源构建模块:用于获取目标数据源类型,配置数据库参数以构建用户数据源列表,并形成用户数据源列表对应的数据源的连接界面;
任务脚本构建模块:用于基于所述用户数据源列表选择数据源,并按照DataX的脚本规则构建所述数据源的同步任务脚本;
任务脚本接收模块:用于配置统一的接口接收所述同步任务脚本,并保存至对应的执行任务列表。
8.根据权利要求7所述的民航数据同步装置,其特征在于,用户信息获取模块中,包括:
获取任意一个用户所对应的身份信息、岗位信息;
基于所述身份信息和所述岗位信息配置该用户权限,所述用户权限包括用户同步数据权限,所述用户同步数据权限包括操作数据权限、维护下级用户的数据权限、关联下级用户的数据权限。
9.一种电子设备,其特征在于,包括:存储有可执行程序代码的存储器;与所述存储器耦合的处理器;所述处理器调用所述存储器中存储的所述可执行程序代码,用于执行权利要求1至6任一项所述的基于DataX的民航数据同步方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储计算机程序,其中,所述计算机程序使得计算机执行权利要求1至6任一项所述的基于DataX的民航数据同步方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州民航信息技术有限公司,未经广州民航信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210102009.8/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置