[发明专利]一种数据计算的方法及相关设备在审
申请号: | 202010076105.0 | 申请日: | 2020-01-22 |
公开(公告)号: | CN111324433A | 公开(公告)日: | 2020-06-23 |
发明(设计)人: | 胡梦春;李茂增 | 申请(专利权)人: | 华为技术有限公司 |
主分类号: | G06F9/48 | 分类号: | G06F9/48;G06F9/50 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 熊永强;李稷芳 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 计算 方法 相关 设备 | ||
本申请提供一种数据计算的方法及相关设备。其中,该方法包括:分布式数据库中的目标数据节点接收所述分布式数据库中的其它数据节点发送的与查询语句相关的数据;该目标数据节点对本地的数据和从所述其它数据节点接收的数据排序;该目标数据节点向所述分布式数据库中的至少一个数据节点发送排序后的多个数据,以便所述至少一个数据节点对各自接收的数据进行所述查询语句相关的计算。上述方法能够解决充分利用分布式计算能力,避免单数据节点进行数据计算所造成的瓶颈,提高计算效率。
技术领域
本发明涉及分布式存储技术领域,尤其涉及一种数据计算的方法及相关设备。
背景技术
窗口函数是结构化查询语言(structured query language,SQL)中一类特别的函数,和聚合函数类似,窗口函数的输入也是多行记录。窗口函数作用于一个窗口,窗口是由一个OVER表达式定义的多行记录。窗口函数与OVER表达式一起使用,OVER表达式用于对数据进行分组,并对组内元素进行排序;而窗口函数则用于对组内值进行处理,例如聚集、生成序号等。
在分布式数据库中,数据都分布存储于各个数据节点中。此外,在对分布式数据库的数据进行计算时,是由单个数据节点完成数据的收集、排序和计算,由于单个数据节点的计算资源有限,将会造成计算瓶颈,降低计算效率。
因此,如何避免单个数据节点所造成的计算瓶颈,提高计算效率和整体执行效率是目前亟待解决的问题。
发明内容
本发明实施例公开了一种数据计算的方法及相关设备,能够充分利用分布式计算能力,避免单数据节点造成的计算瓶颈,提高计算效率。
第一方面,本申请提供一种数据计算的方法,所述方法包括:分布式数据库中的目标数据节点接收所述分布式数据库中的其它数据节点发送的与查询语句相关的数据;该目标数据节点对本地的数据和从其它数据节点接收的数据排序;该目标数据节点向所述分布式数据库中的至少一个数据节点发送排序后的多个数据,以便所述至少一个数据节点对各自接收的数据进行所述查询语句相关的计算。
在本申请提供的方案中,目标数据节点对与查询语句相关的数据进行收集并排序,得到排序后的数据,并将排序后的有序数据发送给分布式数据库中的其它数据节点,以使得其它数据节点可以并行进行查询语句相关的计算,这样可以避免单个数据节点进行计算所造成的瓶颈,充分;利用分布式计算能力,提高资源的利用率和计算效率。
在一种可能的实现方式中,所述其它数据节点各自对本地的数据进行排序,并向所述目标数据节点发送排序后的数据。
在本申请提供的方案中,其它数据节点在向目标数据节点发送数据之前,先把本地的数据进行排序,这样可以减小目标数据节点的排序压力,减小目标数据节点的内存开销,提高执行效率。
在一种可能的实现方式中,目标数据节点向分布式数据库中的多个数据节点中的不同数据节点发送至少一个不同的数据。
在本申请提供的方案中,目标数据节点将排序后的数据发给不同的数据节点,且每个数据节点接收到的数据都是不完全相同的,这样可以保证所有接收到数据的数据节点都可以参与查询语句相关的计算,提高计算效率。
在一种可能的实现方式中,目标数据节点对排序后的数据中未向所述至少一个数据节点发送的数据进行查询语句相关的计算。
在本申请提供的方案中,目标数据节点也可以参与查询语句相关的计算,可以进一步提高计算效率,充分利用分布式数据库的计算资源。
在一种可能的实现方式中,目标数据节点基于所述目标数据节点排序后的数据确定N个分区,该N个分区中的不同分区包括至少一个不同的数据,N为大于1的整数,且N小于或等于分布式数据库具有的数据节点的数量;目标数据节点向分布式数据库的N个数据节点中除了目标数据节点以外的每个数据节点发送N个分区中的一个分区的数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司,未经华为技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010076105.0/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置