[发明专利]一种基于MapReduce的分布式计算方法和装置有效
申请号: | 201210181255.3 | 申请日: | 2012-06-05 |
公开(公告)号: | CN103455374B | 公开(公告)日: | 2016-10-19 |
发明(设计)人: | 王勇;廖新涛;徐冬 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06F9/50 | 分类号: | G06F9/50 |
代理公司: | 上海浦一知识产权代理有限公司 31211 | 代理人: | 殷晓雪 |
地址: | 开曼群岛大开曼*** | 国省代码: | 开曼群岛;KY |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请公开了一种基于MapReduce的分布式计算方法和装置,通过在MapReduce编译工具层面对MapReduce软件框架处理作业之前和之后进行数据处理,一方面记录MapReduce软件框架对历史作业的处理结果,另一方面借鉴历史作业的成功处理结果来处理当前作业,从而形成了一个闭环的反馈系统,来解决困扰较大的如何设置归约器数量的问题。 | ||
搜索关键词: | 一种 基于 mapreduce 分布式 计算方法 装置 | ||
【主权项】:
一种基于MapReduce的分布式计算方法,其特征是,包括如下步骤:第1步,客户应用程序向MapReduce编译工具发出指令;第2步,MapReduce编译工具将该指令编译为一个或多个作业;在数据库中查询该指令所对应的作业记录,以查询到的作业记录中的归约器数量作为相应作业的归约器数量;MapReduce编译工具将每个作业与对应的归约器数量一起提交给MapReduce软件框架;第3步,MapReduce软件框架按照接收的归约器数量处理每个作业,然后向MapReduce编译工具输出作业结果;第4步,MapReduce编译工具将成功作业记录储存在数据库中,并将作业结果发送给客户应用程序和/或存储于分布式文件系统。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201210181255.3/,转载请声明来源钻瓜专利网。
- 上一篇:一种山药人参猪肉脯及制备方法
- 下一篇:一种滋补黑米茶的制备方法