[发明专利]一种基于MapReduce的任务调度方法有效
申请号: | 201310577071.3 | 申请日: | 2013-11-19 |
公开(公告)号: | CN103631657B | 公开(公告)日: | 2017-08-25 |
发明(设计)人: | 孟祥飞;吴楠;邓鹏飞;宗栋瑞;邓强 | 申请(专利权)人: | 浪潮电子信息产业股份有限公司 |
主分类号: | G06F9/48 | 分类号: | G06F9/48 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 250014 山东*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 mapreduce 任务 调度 算法 | ||
1.一种基于MapReduce的任务调度方法,在异构集群环境下,基于蚁群方法的多任务调度方法,其特征在于:通过衡量计算节点的处理性能,根据新的任务目标转移函数和新的节点的更新规则,按照本地计算原则将任务分配给各个计算节点,所述新的任务目标转移函数是将Task作为系统均衡和调度的核心对象,选取作业总体执行时间,节点负载度作为评判标准,并且新增了一个带有FIFO性质的任务池来记录正处理的作业和对应分解的 Map 任务集,选择处理能力强和任务队列较短的请求节点进行任务分配作为目标转移函数建模指标,由 Hadoop 调度器来维护,在获得作业之后调度器会将该作业和分解的任务一起添加到任务池中,进行调度;
所述目标转移函数由公式1.4确定,
(1.4)
其中,任务tk在计算节点vi上的预计执行时间耗费为Texec(tk,vi),任务tk分配到vi的网络传输时间为Ttrans(tk,vi),Time(tk,vi)表示任务在上的完成时间,等于执行时间与网络传输时间之和,Tasklistlength(vi)表示计算节点vi中待执行的任务队列长度,其大小为队列中所有任务完成的时间之和,λ1,λ2为求解公式中的权重比值;
f(t,tk,vi)为初始转移概率,是在t时刻,任务tk分配到请求节点 vi上的转移概率;τ(t,vi)表示在时刻t,任务tk在工作节点vi上的信息素浓度,η(t,vi)为计算节点vi的原始能力即η(t,vi)= τ(0,vi)= τVi (0),α和β分别是衡量τ和η相对重要性的表示参数。
2.根据权利要求1所述的一种基于MapReduce的任务调度方法,其特征在于:还包括一种基于多样性选择的目标转移函数,由公式1.8确定,
(1.8)
其中,0≤q0≤1是初始设定的参数,q是一个随机数,q∈[0,1];
τ(vi)表示任务在工作节点vi上的信息素浓度函数,η(vi)为计算节点vi的能力函数,α和β分别是衡量τ和η相对重要性的表示参数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浪潮电子信息产业股份有限公司,未经浪潮电子信息产业股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201310577071.3/1.html,转载请声明来源钻瓜专利网。
- 上一篇:通过减压蒸馏制备烟草精油的方法
- 下一篇:一种喷浆机的玻璃清洁系统