[发明专利]用于MapReduce的中间数据传输方法及系统在审
申请号: | 201310311798.7 | 申请日: | 2013-07-23 |
公开(公告)号: | CN103327128A | 公开(公告)日: | 2013-09-25 |
发明(设计)人: | 王猛;郭叶志 | 申请(专利权)人: | 百度在线网络技术(北京)有限公司 |
主分类号: | H04L29/08 | 分类号: | H04L29/08;G06F17/30;G06F9/48 |
代理公司: | 北京清亦华知识产权代理事务所(普通合伙) 11201 | 代理人: | 宋合成 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提出了一种用于MapReduce的中间数据传输方法,包括以下步骤:中间传输服务器从多个映射任务服务器分别获取多个映射任务的多个中间结果数据;中间传输服务器获取映射任务信息,并根据映射任务信息对多个中间结果数据进行合并,以生成用于化简任务的合并数据,并将合并数据提供至化简任务服务器。根据本发明实施例的方法可消除化简任务(reduce task)资源存储(hoarding),同时消除就算节点网络负载不均衡,提高资源利用率。本发明还提出了一种用于MapReduce的中间数据传输系统及中间传输服务器。 | ||
搜索关键词: | 用于 mapreduce 中间 数据传输 方法 系统 | ||
【主权项】:
一种用于MapReduce的中间数据传输方法,其特征在于,包括以下步骤:中间传输服务器从多个映射任务服务器分别获取多个映射任务的多个中间结果数据;以及所述中间传输服务器获取映射任务信息,并根据所述映射任务信息对所述多个中间结果数据进行合并,以生成用于化简任务的合并数据,并将所述合并数据提供至化简任务服务器。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于百度在线网络技术(北京)有限公司,未经百度在线网络技术(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201310311798.7/,转载请声明来源钻瓜专利网。
- 上一篇:一种带保险功能的锁芯机构
- 下一篇:一种阳离子絮凝剂及其制备方法