[发明专利]一种数据处理方法及装置在审
申请号: | 201610490911.6 | 申请日: | 2016-06-28 |
公开(公告)号: | CN107545005A | 公开(公告)日: | 2018-01-05 |
发明(设计)人: | 蒋文 | 申请(专利权)人: | 华为软件技术有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京同达信恒知识产权代理有限公司11291 | 代理人: | 冯艳莲 |
地址: | 210012 江苏省南京*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 装置 | ||
1.一种数据处理方法,其特征在于,包括:
第一节点服务器接收到数据处理指令后,根据所述数据处理指令生成查询计划,并将所述查询计划发送至至少一个第二节点服务器,所述查询计划用于指示所述第一节点服务器以及所述至少一个第二节点服务器对待处理数据的进行处理;
所述第一节点服务器根据所述查询计划,确定所述待处理数据所处的至少一个数据源,并从所述至少一个数据源中获取所述待处理数据;
所述第一节点服务器获取所述待处理数据的分布规则,并按照所述分布规则,对所述待处理数据进行拆分,生成多个部分待处理数据;以及将所述多个部分待处理数据分布至所述第一节点服务器和所述至少一个第二节点服务器中;
所述第一节点服务器根据所述查询计划以及分布至自身的部分待处理数据,生成第一运算结果;
所述第一节点服务器获取所述至少一个第二节点服务器中每个第二节点服务器的第二运算结果,其中,任意一个第二节点服务器的第二运算结果为所述第二节点服务器根据所述查询计划以及分布至所述第二节点服务器的部分待处理数据生成的;
所述第一节点服务器根据所述第一运算结果和所述每个第二节点服务器的第二运算结果,确定所述数据处理指令对应的运算结果。
2.如权利要求1所述的方法,其特征在于,所述第一节点服务器根据所述查询计划,确定所述待处理数据所处的至少一个数据源,包括:
所述第一节点服务器获取所述查询计划中包括的所述至少一个数据源的标识;
所述第一节点服务器根据所述至少一个数据源的标识,确定对应的所述至少一个数据源。
3.如权利要求1或2所述的方法,其特征在于,所述第一节点服务器从所述至少一个数据源中获取所述待处理数据,包括:
所述第一节点服务器根据存储的元数据连接所述至少一个数据源,所述元数据包括所述至少一个数据源的连接信息;
所述第一节点服务器根据所述查询计划,获取所述至少一个数据源中的所述待处理数据。
4.如权利要求3所述的方法,其特征在于,所述第一节点服务器根据所述查询计划,获取所述至少一个数据源中的所述待处理数据,包括:
所述第一节点服务器获取所述查询计划中包括的所述待处理数据的描述信息;
所述第一节点服务器根据所述待处理数据的描述信息,从所述至少一个数据源中获取所述待处理数据。
5.如权利要求1-4任一项所述的方法,其特征在于,所述第一节点服务器获取所述分布规则,包括:
所述第一节点服务器根据所述查询计划中包含的关联条件,生成所述分布规则;或者
所述第一节点服务器获取存储的所述分布规则。
6.如权利要求1-5任一项所述的方法,其特征在于,所述第一节点服务器根据所述第一运算结果和所述每个第二节点服务器的第二运算结果,确定所述数据处理指令对应的运算结果,包括:
所述第一节点服务器对所述第一运算结果和所述每个第二节点服务器的第二运算结果进行数据聚合或排序处理,生成所述数据处理指令对应的运算结果。
7.如权利要求1-6任一项所述的方法,其特征在于,所述数据处理指令为结构化查询语言SQL指令。
8.一种数据处理方法,其特征在于,包括:
第二节点服务器接收第一节点服务器发送的查询计划和部分待处理数据;
所述第二节点服务器根据所述查询计划以及所述部分待处理数据,生成所述第二运算结果;
所述第二节点服务器将所述第二运算结果发送至所述第一节点服务器。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为软件技术有限公司,未经华为软件技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201610490911.6/1.html,转载请声明来源钻瓜专利网。