[发明专利]优化MapReduce计算的方法、装置、设备和计算机存储介质有效
申请号: | 201910108974.4 | 申请日: | 2019-02-03 |
公开(公告)号: | CN109947559B | 公开(公告)日: | 2021-11-23 |
发明(设计)人: | 侯志贞 | 申请(专利权)人: | 百度在线网络技术(北京)有限公司 |
主分类号: | G06F9/50 | 分类号: | G06F9/50 |
代理公司: | 北京鸿德海业知识产权代理有限公司 11412 | 代理人: | 袁媛 |
地址: | 100085 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供了一种优化MapReduce计算的方法、装置、设备和计算机存储介质,其中所述方法包括:在各Map任务全部运行完毕之后,获取各Reduce任务需要处理的数据量;根据所述各Reduce任务需要处理的数据量,按照数据量从大到小的顺序对各Reduce任务进行排序;根据排序结果依次启动各Reduce任务,在各Reduce任务全部运行完毕后完成MapReduce计算。本发明能够缩短MapReduce计算的运行时间、提高MapReduce计算的运行效率。 | ||
搜索关键词: | 优化 mapreduce 计算 方法 装置 设备 计算机 存储 介质 | ||
【主权项】:
1.一种优化MapReduce计算的方法,其特征在于,所述方法包括:在各Map任务全部运行完毕之后,获取各Reduce任务需要处理的数据量;根据所述各Reduce任务需要处理的数据量,按照数据量从大到小的顺序对各Reduce任务进行排序;根据排序结果依次启动各Reduce任务,在各Reduce任务全部运行完毕后完成MapReduce计算。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于百度在线网络技术(北京)有限公司,未经百度在线网络技术(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910108974.4/,转载请声明来源钻瓜专利网。
- 上一篇:主机资源利用率计算方法和资源调度方法
- 下一篇:一种内存管理方法