[发明专利]一种面向海量天文数据的存取优化系统有效
| 申请号: | 202110633761.0 | 申请日: | 2021-06-07 |
| 公开(公告)号: | CN113485638B | 公开(公告)日: | 2022-11-11 |
| 发明(设计)人: | 李晖;戴震宇;陈梅;梁青青 | 申请(专利权)人: | 贵州大学 |
| 主分类号: | G06F3/06 | 分类号: | G06F3/06 |
| 代理公司: | 北京华创智道知识产权代理事务所(普通合伙) 11888 | 代理人: | 彭随丽 |
| 地址: | 550025 *** | 国省代码: | 贵州;52 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 面向 海量 天文 数据 存取 优化 系统 | ||
1.一种面向海量天文数据的存取优化系统,其特征在于,采用Greenplum分布式并行数据库集群存储海量天文数据,所述数据库集群借助Greenplum的分布式并行计算模型,所述Greenplum数据库的系统架构包括:
管理节点,包括master节点和standbymaster节点,用于管理整个Greenplum数据库系统;
Interconnect组件,用于并行查询计划的产生和分发,协调各个节点上查询执行器的并行工作,并负责数据分布任务;
子节点服务器,用于业务数据的存储和存取,执行由Master节点分发的SQL语句;
所述存取优化系统包括:数据库集群模块、构建模块、扫描模块和客户端,所述客户端用于输入查询语句以及显示查询结果,所述客户端输入查询语句发送至扫描模块;
所述数据库集群模块包括ipix字段,所述ipix字段由构建模块计算所得,所述构建模块为ipix字段在数据库集群模块中构建B-Tree索引;
所述扫描模块用于访问数据库集群模块中的ipix字段,利用CTE将字段值使用数组聚合函数转存为内存数组,再进一步利用RoaringBitmap提供的位图构建接口将内存数组转换为内存位图,所述扫描模块根据内存位图向客户端反馈索引结果;所述构建模块选择伪空间球面索引技术HEALPix进行索引,将HEALPix伪空间球面索引技术通过Greenplum数据库提供的用户自定义函数机制实现,通过MPP计算框架完成天区索引并行构建,所述HEALPix伪空间球面索引技术将天区索引字段存储在一维的B-Tree索引结构中,进而利用B-Tree索引适应于范围查找、等值查找的特性提升天文分析处理速度。
2.根据权利要求1所述的面向海量天文数据的存取优化系统,其特征在于,所述Greenplum数据库系统通过UDF扩展机制对RoaringBitmap位图支持,所述Greenplum数据库系统采用主从Master结构,每个从节点包括一定数量的段数据库实例,存储在Greenplum数据库中的数据根据指定的分布键存储在不同的段数据库上。
3.根据权利要求1所述的面向海量天文数据的存取优化系统,其特征在于,所述客户端输入的查询语句中的范围查找以位图的位运算AND和OR形式计算得到结果并返回给客户端。
4.根据权利要求3所述的面向海量天文数据的存取优化系统,其特征在于,所述HEALPix伪空间球面索引技术使用位图逻辑操作实现交叉证认操作。
5.根据权利要求4所述的面向海量天文数据的存取优化系统,其特征在于,所述交叉证认操作转换为位图操作,在获得的结果集中,根据‘1’出现的次数来确定满足交叉证认后获得同源星体的个数,同时‘1’所在的位置对应着空间坐标的位置。
6.根据权利要求5所述的面向海量天文数据的存取优化系统,其特征在于,所述‘1’所在的位置,对应着ipix字段所在记录的位置。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于贵州大学,未经贵州大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110633761.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种机械零件冶具用螺母拆装工具
- 下一篇:一种湿陷性黄土地基处理方法
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





