[发明专利]支持多版本Hive表分区的数据加载、查询方法及电子装置有效
申请号: | 202011011197.0 | 申请日: | 2020-09-23 |
公开(公告)号: | CN112347097B | 公开(公告)日: | 2022-07-29 |
发明(设计)人: | 钟进文;马灿;王伟平 | 申请(专利权)人: | 中国科学院信息工程研究所 |
主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/242;G06F16/27 |
代理公司: | 北京君尚知识产权代理有限公司 11200 | 代理人: | 余功勋 |
地址: | 100093 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供的支持多版本Hive表分区的数据加载、查询方法及电子装置,包括获取每条数据的分区字段;根据分区字段与各分区字段值列表的匹配关系,将每条数据写入相应的Hive表分区内;若存入哈希分区或自动间隔分区时,分区字段不能与现有的值列表匹配,创建新的哈希分区或自动间隔分区并生成新版本;若数据存入列表分区或区间分区时,列表分区规则或区间分区规则发生改动并生成相应新版本时,写入相应的列表分区或区间分区。本发明能够面对海量数据的存储和查询提供更加高效的复杂分区机制,在保持历史数据分区规则不变的同时,以多版本技术支持对增量数据分区规则在线调整,避免无意义扫描和计算,节省大量时间,极大提高系统的可维护性和查询效率。 | ||
搜索关键词: | 支持 版本 hive 分区 数据 加载 查询 方法 电子 装置 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院信息工程研究所,未经中国科学院信息工程研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202011011197.0/,转载请声明来源钻瓜专利网。