[发明专利]一种数据处理方法及装置在审
申请号: | 201811269590.2 | 申请日: | 2018-10-29 |
公开(公告)号: | CN109460408A | 公开(公告)日: | 2019-03-12 |
发明(设计)人: | 易祖建;王纯斌;张奇;杨尧 | 申请(专利权)人: | 成都四方伟业软件股份有限公司 |
主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/25 |
代理公司: | 北京超凡志成知识产权代理事务所(普通合伙) 11371 | 代理人: | 徐彦圣 |
地址: | 610000 四川省*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 在本申请实施例提供的数据处理方法及装置中,包括:根据预先设置的自定义语句,建立Spark与HBase表之间的通路;通过Spark获取HBase表的第一表项信息,根据预先存储的类型替换关系,将所述第一表项信息转换为第二表项信息;根据所述第二表项信息,通过Spark在Hive创建所述HBase表的映射表,记为Hive表。本申请实施例提供的数据处理方法可以根据预先设置的自定义语句建立Spark与HBase表的通路,然后通过Spark从HBase表获取表项信息,并对表项信息进行符合Spark格式需求的转换,从而通过Spark在Hive创建所述HBase表的映射表,该映射表既能从HBase表获取信息,又具有Spark系统数据分析速度快的优点。 | ||
搜索关键词: | 表项信息 数据处理 映射表 自定义语句 预先设置 表获取 格式需求 系统数据 预先存储 转换 创建 申请 替换 分析 | ||
【主权项】:
1.一种数据处理方法,其特征在于,所述方法包括:根据预先设置的自定义语句,建立Spark与HBase表之间的通路;通过Spark获取HBase表的第一表项信息,根据预先存储的类型替换关系,将所述第一表项信息转换为第二表项信息;根据所述第二表项信息,通过Spark在Hive创建所述HBase表的映射表,记为Hive表。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于成都四方伟业软件股份有限公司,未经成都四方伟业软件股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201811269590.2/,转载请声明来源钻瓜专利网。
- 上一篇:一种信息存储方法及系统
- 下一篇:数据访问方法和装置