[发明专利]一种大数据分布式存储方法和系统在审
申请号: | 201611194550.7 | 申请日: | 2016-12-21 |
公开(公告)号: | CN108228654A | 公开(公告)日: | 2018-06-29 |
发明(设计)人: | 不公告发明人 | 申请(专利权)人: | 青岛祥智电子技术有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 266100 山东省青岛*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供了一种大数据分布式存储方法和系统,该方法包括:将数据管理引擎运行在主节点上,对用户查询进行编译、转换和优化、生成查询执行计划并执行,进行元数据管理和节点监控;在分布式计算节点上运行服务器进程,执行分布式计算任务;将分布式计算的工作进程以及单节点数据库部署在数据节点;将子查询在数据库中执行或者在分布式计算框架中执行。本发明增加了将查询下推到数据库中执行的机会,避免跨节点连接带来的数据传输代价,提高了查询性能。 | ||
搜索关键词: | 分布式存储 分布式计算 数据库 大数据 分布式计算节点 分布式计算框架 查询执行计划 数据管理引擎 元数据管理 运行服务器 查询性能 工作进程 节点监控 节点连接 数据传输 数据节点 用户查询 单节点 主节点 子查询 编译 查询 转换 优化 部署 进程 | ||
【主权项】:
1.一种大数据分布式存储方法,用于在云存储系统中实现大数据的存储和查询,所述云存储系统包括主节点,分布式计算节点和数据节点,其特征在于,包括:将数据管理引擎运行在主节点上,接收用户查询,对查询进行编译、转换和优化、生成查询执行计划并执行查询,同时进行元数据管理和节点监控;在分布式计算节点上运行服务器进程,执行分布式计算任务;将分布式计算的工作进程以及单节点数据库部署在数据节点,将数据表存储在数据节点的数据库中;将由用户查询转换成的子查询在数据库中执行,或者在分布式计算框架中执行。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于青岛祥智电子技术有限公司,未经青岛祥智电子技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201611194550.7/,转载请声明来源钻瓜专利网。