[发明专利]一种基于MapReduce的分布式计算方法和装置有效

专利信息
申请号: 201210181255.3 申请日: 2012-06-05
公开(公告)号: CN103455374B 公开(公告)日: 2016-10-19
发明(设计)人: 王勇;廖新涛;徐冬 申请(专利权)人: 阿里巴巴集团控股有限公司
主分类号: G06F9/50 分类号: G06F9/50
代理公司: 上海浦一知识产权代理有限公司 31211 代理人: 殷晓雪
地址: 开曼群岛大开曼*** 国省代码: 开曼群岛;KY
权利要求书: 查看更多 说明书: 查看更多
摘要: 本申请公开了一种基于MapReduce的分布式计算方法和装置,通过在MapReduce编译工具层面对MapReduce软件框架处理作业之前和之后进行数据处理,一方面记录MapReduce软件框架对历史作业的处理结果,另一方面借鉴历史作业的成功处理结果来处理当前作业,从而形成了一个闭环的反馈系统,来解决困扰较大的如何设置归约器数量的问题。
搜索关键词: 一种 基于 mapreduce 分布式 计算方法 装置
【主权项】:
一种基于MapReduce的分布式计算方法,其特征是,包括如下步骤:第1步,客户应用程序向MapReduce编译工具发出指令;第2步,MapReduce编译工具将该指令编译为一个或多个作业;在数据库中查询该指令所对应的作业记录,以查询到的作业记录中的归约器数量作为相应作业的归约器数量;MapReduce编译工具将每个作业与对应的归约器数量一起提交给MapReduce软件框架;第3步,MapReduce软件框架按照接收的归约器数量处理每个作业,然后向MapReduce编译工具输出作业结果;第4步,MapReduce编译工具将成功作业记录储存在数据库中,并将作业结果发送给客户应用程序和/或存储于分布式文件系统。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/patent/201210181255.3/,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top