[发明专利]联机分析处理中分布式计算及查询海量数据的方法和系统无效
申请号: | 200710032157.2 | 申请日: | 2007-12-06 |
公开(公告)号: | CN101183368A | 公开(公告)日: | 2008-05-21 |
发明(设计)人: | 奚建清;游进国;陈虎;张平建 | 申请(专利权)人: | 华南理工大学 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 广州粤高专利代理有限公司 | 代理人: | 何淑珍 |
地址: | 510640广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了联机分析处理中分布式计算及查询海量数据的方法和系统,该方法采用集群系统对数据立方体进行分布式的预计算以及查询。本发明基于MapReduce框架,通过MapReduce对大容量数据集进行分块并分发到各个节点上,然后节点上的Map任务对每个数据块计算出一个相应的本地封闭立方体,最后启动不同节点上Map任务对各个本地封闭立方体进行并行查询,Reduce任务再合并查询出来的度量值。本发明能够简单而有效地对大容量数据进行联机分析处理的预计算及查询,较大地压缩了数据立方体的存储空间,并能够较快响应用户的查询。 | ||
搜索关键词: | 联机 分析 处理 分布式 计算 查询 海量 数据 方法 系统 | ||
【主权项】:
1.联机分析处理中分布式计算及查询海量数据的方法,该方法基于MapReduce框架,其特征在于包括如下步骤:(1)根据用户指定对空间存储和查询时间的需求,计算出Map任务个数;(2)MapReduce对要计算的大容量数据集进行分块,并将数据块分发到节点上;(3)节点上的Map任务对其数据块计算并输出一个本地封闭立方体;(4)用户请求查询,MapReduce将该查询提交到节点上的Map任务;(5)Map任务对该节点上的本地封闭立方体进行查询,并返回对应的度量值;(6)Reduce任务将各个返回的度量值聚合为一个值交给用户。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华南理工大学,未经华南理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/200710032157.2/,转载请声明来源钻瓜专利网。