[发明专利]一种数据查询方法、装置和存储介质在审
申请号: | 202310148704.2 | 申请日: | 2023-02-16 |
公开(公告)号: | CN116340353A | 公开(公告)日: | 2023-06-27 |
发明(设计)人: | 谢家龙;陈峰;李光庭 | 申请(专利权)人: | 杭州有赞科技有限公司 |
主分类号: | G06F16/2453 | 分类号: | G06F16/2453;G06F16/2455;G06F16/242 |
代理公司: | 杭州华进联浙知识产权代理有限公司 33250 | 代理人: | 黄文勇 |
地址: | 310023 浙江省杭*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 查询 方法 装置 存储 介质 | ||
本申请涉及一种数据查询方法、装置和存储介质,该方法包括:获取逻辑宽表的第一查询SQL;所述第一查询SQL用于对所述逻辑宽表进行数据查询;所述逻辑宽表根据多个具有相同维度属性的物理表映射生成;根据所述第一查询SQL和所述逻辑宽表的元数据,生成所述物理表的查询SQL集合;所述查询SQL集合用于对所述第一查询SQL关联的多个物理表进行数据查询;所述元数据根据所述逻辑宽表和所述物理表的映射关系生成;执行所述查询SQL集合,进行数据查询。通过本申请,解决了现有技术中采用物理宽表进行数据查询,导致数据查询的性能差的问题。
技术领域
本申请涉及计算机技术领域,特别是涉及一种数据查询方法、装置和存储介质。
背景技术
在对线上提供数据分析的服务时,为了保证查询的便捷性和高性能,在数据集市层会对于分析主题的内容将多个业务域的数据合并到一张物理表中形成物理宽表。完成物理宽表的建设后需要将物理宽表同步到OLAP(联机分析处理,Online AnalyticalProcessing)引擎中,加速查询提供在线服务。
然而,物理宽表的构建性能较差,物理宽表需要将多个业务域的数据进行融合,再同步到OLAP层,过程中存在木桶效应,物理宽表合并任务的开始依赖于上游最晚产出的表。物理宽表的灵活性差,物理宽表对于表scheme的表更需要进行数据重刷,开发维护难度大。物理宽表的稳定性较差,因为物理宽表需要融合各个业务域的数据,过程中有一个业务域的数据出现问题,整个物理宽表就需要重新构建,OLAP层也同样需要重建,数据恢复时间长,问题影响面广。
针对现有技术中采用物理宽表进行数据查询,导致数据查询的性能差的问题,目前还没有提出有效的解决方案。
发明内容
在本实施例中提供了一种数据查询方法、装置和存储介质,以解决现有技术中采用物理宽表进行数据查询,导致数据查询的性能差的问题。
第一个方面,在本实施例中提供了一种数据查询方法,所述方法包括:
获取逻辑宽表的第一查询SQL;所述第一查询SQL用于对所述逻辑宽表进行数据查询;所述逻辑宽表根据多个具有相同维度属性的物理表映射生成;
根据所述第一查询SQL和所述逻辑宽表的元数据,生成所述物理表的查询SQL集合;所述查询SQL集合用于对所述第一查询SQL关联的多个物理表进行数据查询;所述元数据根据所述逻辑宽表和所述物理表的映射关系生成;
执行所述查询SQL集合,进行数据查询。
在其中的一些实施例中,所述第一查询SQL为分页查询,所述根据所述第一查询SQL和所述逻辑宽表的元数据,生成所述物理表的查询SQL集合,包括:
根据所述第一查询SQL和所述元数据,确定所述第一查询SQL的排序字段关联的第一物理表;
根据所述第一查询SQL和所述元数据,生成所述第一物理表对应的第二查询SQL;所述第二查询SQL用于对所述第一物理表进行数据查询;
执行所述第二查询SQL,得到第一查询结果;
根据所述第一查询结果和所述元数据,生成所述查询SQL集合。
在其中的一些实施例中,所述根据所述第一查询结果和所述元数据,生成所述查询SQL集合,包括:
根据所述第一查询SQL,确定与所述第一查询SQL关联的待进行数据查询的第二物理表;
根据所述第一查询结果、所述第一查询SQL和所述元数据,生成所述第二物理表对应的第三查询SQL;所述第三查询SQL用于对所述第二物理表进行数据查询;
根据所述第三查询SQL,生成所述查询SQL集合。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州有赞科技有限公司,未经杭州有赞科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310148704.2/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置