[发明专利]一种大数据综合处理方法及系统在审
申请号: | 201811204254.X | 申请日: | 2018-10-16 |
公开(公告)号: | CN109408602A | 公开(公告)日: | 2019-03-01 |
发明(设计)人: | 王丽娟 | 申请(专利权)人: | 深圳中顺易金融服务有限公司 |
主分类号: | G06F16/28 | 分类号: | G06F16/28;G06F16/22;G06F16/21 |
代理公司: | 深圳市凯达知识产权事务所 44256 | 代理人: | 刘大弯 |
地址: | 518000 广东省深圳市前海深港合作区前*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及一种大数据综合处理方法及系统,包括业务数据库RDBMS和离线计算模块Hive、内存计算模块Spark、资源管理与调度模块Yarn、分布式文件系统HDFS、全量/增量采集模块Sqoop,以及工作流调度模块oozie;所述大数据综合处理方法包括如下步骤:选定源头子系统的订单号为系统全局标识,对每个子系统相关表增加全局标识的任务,即上游订单完成处理后,下游订单从上游订单获取到所述全局标识并增加到自己的订单记录;对订单的流转(血缘关系)做直观的展示,并提供相应的各种数据管理、查询、展示。 | ||
搜索关键词: | 综合处理 大数据 全局标识 分布式文件系统 数据管理 工作流调度 业务数据库 调度模块 订单记录 离线计算 内存计算 系统全局 血缘关系 增量采集 资源管理 上游 流转 展示 直观 查询 源头 | ||
【主权项】:
1.一种大数据综合处理方法,包括业务数据库RDBMS和离线计算模块Hive、内存计算模块Spark、资源管理与调度模块Yarn、分布式文件系统HDFS、全量/增量采集模块Sqoop,以及工作流调度模块oozie;所述大数据综合处理方法包括如下步骤:选定源头子系统的订单号为系统全局标识,对每个子系统相关表增加全局标识的任务,即上游订单完成处理后,下游订单从上游订单获取到所述全局标识并增加到自己的订单记录;对订单的流转(血缘关系)做直观的展示,并提供相应的各种数据管理、查询、展示。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳中顺易金融服务有限公司,未经深圳中顺易金融服务有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201811204254.X/,转载请声明来源钻瓜专利网。