[发明专利]一种MapReduce任务的容错调度方法无效
申请号: | 201210535892.6 | 申请日: | 2012-12-13 |
公开(公告)号: | CN103064728A | 公开(公告)日: | 2013-04-24 |
发明(设计)人: | 刘扬;魏蔚;王珂;杨卫东;刘灿 | 申请(专利权)人: | 河南工业大学 |
主分类号: | G06F9/46 | 分类号: | G06F9/46;G06F11/07;H04L29/08 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 450001 河南省*** | 国省代码: | 河南;41 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及云计算环境中并行任务的调度处理方法,公开一种针对MapReduce作业的容错调度方法,以提高MapReduce作业的整体性能,减少节点失效时的作业延迟。本发明结合检查点和主动复制两种技术,在Mapper任务执行时创建本地检查点和索引检查点两种检查点,当任务发生失效时,本地检查点能够将出错任务的状态和执行恢复到检查点处,减少了任务的重复执行时间;当发生节点失效时,副本节点能够根据索引检查点快速构造出失效节点上执行的mapper任务的中间结果数据,大大减少了重调度任务的执行时间。实验结果表明该方法能够比Hadoop的运行时性能提高30%以上,同时并不明显增加系统的存储和网络开销。 | ||
搜索关键词: | 一种 mapreduce 任务 容错 调度 方法 | ||
【主权项】:
一种支持容错的MapReduce任务调度算法,其特征在于:算法分为两个部分,分别为运行master节点和worker节点上。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于河南工业大学,未经河南工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201210535892.6/,转载请声明来源钻瓜专利网。
- 上一篇:等离子手持美容器
- 下一篇:一种神经内科用按摩带