[发明专利]分布式数据处理方法、装置及系统有效
申请号: | 201210077763.7 | 申请日: | 2012-03-22 |
公开(公告)号: | CN103324533A | 公开(公告)日: | 2013-09-25 |
发明(设计)人: | 钱剑锋;颜友亮 | 申请(专利权)人: | 华为技术有限公司 |
主分类号: | G06F9/50 | 分类号: | G06F9/50 |
代理公司: | 北京同立钧成知识产权代理有限公司 11205 | 代理人: | 刘芳 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明实施例提供一种分布式数据处理方法、装置及系统,该分布式数据处理方法包括:根据获取到的上传节点指示信息和工作节点发送的任务获取请求生成映射Map任务,其中,上传节点指示信息包括多个数据块分别对应的工作节点的地址,Map任务对应的数据块分布在发送任务获取请求的工作节点上;将Map任务分配给工作节点,以使工作节点对Map任务对应的数据块进行相应地处理。本发明实施例提供的分布式数据处理方法、装置及系统,避免了分布式数据处理过程中各工作节点间的数据迁移造成的网络流量大的问题,也避免了磁盘读写所占用的系统资源,提高系统的分布式数据处理效果。 | ||
搜索关键词: | 分布式 数据处理 方法 装置 系统 | ||
【主权项】:
一种分布式数据处理方法,其特征在于,包括:根据获取到的上传节点指示信息和工作节点发送的任务获取请求生成映射Map任务,其中,所述上传节点指示信息包括多个数据块分别对应的工作节点的地址,所述Map任务对应的数据块分布在发送所述任务获取请求的工作节点上;将所述Map任务分配给所述工作节点,以使所述工作节点对所述Map任务对应的数据块进行相应地处理。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司,未经华为技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201210077763.7/,转载请声明来源钻瓜专利网。