[发明专利]一种基于Sqoop技术的海量数据同步系统及方法在审
申请号: | 201810634454.2 | 申请日: | 2018-06-20 |
公开(公告)号: | CN108875017A | 公开(公告)日: | 2018-11-23 |
发明(设计)人: | 宫若瑜;程林;杨培强 | 申请(专利权)人: | 山东浪潮商用系统有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 济南信达专利事务所有限公司 37100 | 代理人: | 孟峣 |
地址: | 250100 山东省济南市*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于Sqoop技术的海量数据同步系统及方法,其结构包括页面配置模块,用于通过URL调用,输入操作参数,并将输入参数传输给逻辑处理模块;逻辑处理模块,解析传输过来的输入操作参数,根据输入操作参数,在数据库中查找并生成相应的sqoop命令以及任务信息,并传输给任务执行模块;任务执行模块,根据任务类型执行任务;数据库,存储sqoop命令及与其对应的输入操作参数,和每次操作时的具体信息。本发明的一种基于Sqoop技术的海量数据同步系统及方法与现有技术相比,解决了Sqoop命令复杂,人工编写不利、容易出错的问题,进一步简化了执行任务时用户成本,输入变得更为简单,并且可以配置定时任务与周期任务,实用性更好。 | ||
搜索关键词: | 输入操作参数 海量数据 同步系统 逻辑处理模块 任务执行模块 传输 数据库 页面配置模块 任务类型 任务信息 输入参数 用户成本 调用 出错 解析 存储 查找 配置 | ||
【主权项】:
1.一种基于Sqoop技术的海量数据同步系统,其特征在于,其结构包括,页面配置模块,用于通过URL调用,输入操作参数,并将输入参数传输给逻辑处理模块;逻辑处理模块,解析传输过来的输入操作参数,根据输入操作参数,在数据库中查找并生成相应的sqoop命令以及任务信息,并传输给任务执行模块;任务执行模块,根据任务类型执行任务;数据库,存储sqoop命令及与其对应的输入操作参数,和每次操作时的具体信息。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于山东浪潮商用系统有限公司,未经山东浪潮商用系统有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201810634454.2/,转载请声明来源钻瓜专利网。