[发明专利]一种多维数据查询分析的优化方法及其系统在审

专利信息
申请号: 201710961594.6 申请日: 2017-10-16
公开(公告)号: CN110019334A 公开(公告)日: 2019-07-16
发明(设计)人: 黄瑞廷;詹先;余伦强;郑裕濠;李厚铭;田科宇 申请(专利权)人: 广东亿迅科技有限公司
主分类号: G06F16/2453 分类号: G06F16/2453;G06F16/28
代理公司: 深圳市精英专利事务所 44242 代理人: 冯筠
地址: 510000 广东省广州*** 国省代码: 广东;44
权利要求书: 查看更多 说明书: 查看更多
摘要: 发明涉及一种多维数据查询分析的优化方法及其系统,该方法包括获取SQL语句;对SQL语句进行分析拼装处理,获取新SQL语句;根据新SQL语句进行事务管理,连接至对应的数据库;对数据库内的数据聚合,并返回聚合的数据。本发明利用Rolap多维引擎在大数据量查询过程中的postgresql列存储技术,对新SQL语句进行分析转译以及数据的聚合,利用列存储外部表的数据安装字段按列分开且分文件单独存储,查询时在没有索引的情况下,只需要遍历对应列的数据大大减少数据需要遍历的数据量,可对数据压缩减少占用存储空间,实现解决传统的关系型数据库查询数据的瓶颈,提升查询效率,满足高并发读写需求,具备高扩张性及可用性。
搜索关键词: 查询分析 多维数据 列存储 遍历 聚合 数据库 关系型数据库 查询 查询数据 查询效率 存储空间 大数据量 单独存储 高扩张性 拼装处理 事务管理 数据安装 数据聚合 数据需要 数据压缩 可用性 传统的 分文件 数据量 读写 多维 索引 转译 字段 引擎 并发 优化 分析 瓶颈 占用 返回 外部
【主权项】:
1.一种多维数据查询分析的优化方法,其特征在于,所述方法包括:获取SQL语句;对所述SQL语句进行分析拼装处理,获取新SQL语句;根据新SQL语句进行事务管理,连接至对应的数据库;对数据库内的数据聚合,并返回聚合的数据。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广东亿迅科技有限公司,未经广东亿迅科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/patent/201710961594.6/,转载请声明来源钻瓜专利网。

同类专利
  • 一种数据查询方法和装置-201910663210.1
  • 汪正 - 阿里巴巴集团控股有限公司
  • 2019-07-22 - 2019-11-12 - G06F16/2453
  • 本说明书实施例公开了一种数据查询方法和装置,该方法包括:接收用户的数据查询请求;从离线数据库查找所述用户第一时段的离线数据,其中,所述离线数据是按照预设查询请求获取原始数据并对所述原始数据进行预先加工处理得到;从在线数据库查找所述用户第二时段的在线数据,所述第二时段在所述第一时段之后;对所述离线数据和所述在线数据进行组合处理,并返回组合处理后的数据。
  • 一种数据处理、隐匿车辆查询的方法及设备-201910690864.3
  • 江惠中;何林强 - 浙江大华技术股份有限公司
  • 2019-07-29 - 2019-11-12 - G06F16/2453
  • 本申请公开了一种数据处理、隐匿车辆查询的方法及设备,该方法包括获取车辆记录临时数据和原车辆记录分析数据,车辆记录临时数据记录有待处理时间段的过车记录,原车辆记录分析数据记录有待处理时间段之前的过车记录;结合车辆记录临时数据和原车辆记录分析数据得到新车辆记录分析数据,新车辆记录分析数据记录有待处理时间段及待处理时间段之前的过车记录;其中,车辆记录分析数据包括标记位,每个标记位包括至少一位标记字符,每位标记字符用于标记车辆是否出现。通过上述方式,本申请能够减小过车记录的数据量和数据所占用的空间。
  • 一种针对环境法律法规的查询方法-201610856374.2
  • 邵玉斌;王晨歌;龙华;刘永召 - 昆明理工大学
  • 2016-09-28 - 2019-11-08 - G06F16/2453
  • 本发明涉及一种针对环境法律法规的查询方法,属于法规查询技术领域。本发明首先,建立关键词库表,对每个环境法律条款的相应关键词进行提取,将其在各个条款中出现的频率记录在关键词库表中;其次,建立关键字库,将关键词数据库表中各个关键词的拆分,记录相关关键字出现的概率存入关键字表,以表示两个汉字间的权重函数的自变量;然后,确定权重函数,计算每条路径的权重;最后,建立最短路径搜索目标函数,得出环境法律法规的查询结果方案。本发明实现了针对法律法规的查询,同时,在很大程度上对环境法律法规词组匹配概率的解决方案做出了探索。
  • 一种数据库卡顿处理方法与装置-201910636865.X
  • 张凯 - 苏州浪潮智能科技有限公司
  • 2019-07-15 - 2019-11-05 - G06F16/2453
  • 本发明公开了一种数据库卡顿处理方法与装置包括:使用自动负载信息库生成数据库的性能统计报告,并根据所述性能统计报告确定数据库中高占用线程的语句;根据所述语句确定所述高占用线程的执行计划,并确定所述执行计划中基于表的无索引搜索;确定并杀死查询所述表的数据库会话进程,并为所述无索引搜索设置索引。本发明能够方便快速地处理数据库的卡顿问题,维持系统可用性,降低维护成本并提升用户体验。
  • 一种基于分层分配的多层数据库的布隆过滤器构造方法-201710078690.6
  • 李永坤;张月明;张伟韬;吕敏;许胤龙 - 中国科学技术大学
  • 2017-02-14 - 2019-10-22 - G06F16/2453
  • 本发明公开了一种基于分层分配的多层数据库的布隆过滤器构造方法,特征是包括设计建立存储结构、计算组合概率和、求解得分配给每层布隆过滤器的位数、维护存储结构;在进行合并操作时,使处于多层键值数据库(LevelDB)的高层的每个键分配到更多的布隆过滤器比特位数,低层的键分配到较少的布隆过滤器比特位数,其中布隆过滤器的误报率随着比特位数的增多而降低。与LevelDB传统的布隆过滤器构造方法相比,在保证内存开销与之前一致的情况下,本方法可以减少因布隆过滤器的误报带来的硬盘输入输出(I/O)操作,降低硬盘的I/O次数,减少LevelDB查询操作的平均延迟;也可以在保证查询时的期望硬盘I/O次数与传统方法基本相等的情况下,减少布隆过滤器带来的内存开销。
  • 数据撮合方法及装置-201910639790.0
  • 林泽瑞;何晓;何伟玄;陈树勇 - 中国工商银行股份有限公司
  • 2019-07-16 - 2019-10-18 - G06F16/2453
  • 本申请实施例提供一种数据撮合方法及装置,方法包括:确定源数据集中的有效源数据和目标数据集中的有效目标数据,得到源数据缓冲队列和目标数据缓冲队列;依次对所述目标数据缓冲队列中与所述源数据缓冲队列中的所述有效源数据对应的所述有效目标数据进行数据撮合;本申请既能够保证快速准确有效处理不同标类数据,又能够降低事务处理系统的高并发量,减少对数据记录出现频率的依赖耦合,提高了事务处理系统的稳定性和可靠性。
  • 一种社保大数据OLAP预处理方法及在线分析查询方法-201611236768.4
  • 王弘剑;张星明 - 华南理工大学
  • 2016-12-28 - 2019-10-18 - G06F16/2453
  • 本发明公开了一种社保大数据OLAP预处理方法及在线分析查询方法,包括以下步骤:从原始数据库提取数据构建数据仓库;从数据仓库提取单维数据;针对单维数据以及单维数据之间的组合构建从数据属性到ID的反向映射,并利用反向映射构建键值对数据库;筛选合适的数据属性的组合,保证对多维属性的组合可以得到多维数据聚合的结果;由数据属性的组合得到不同的分割,通过各种不同的分割组合来去除重复冗余的分割,从而保证用最少的分割达到所有的分割组合,然后构造一维的CUBE,完成预处理过程。本发明能够有效的表达多维查询的数据模型的结果并减少其所占用的存储空间。
  • 数据查询的方法和装置-201710208998.8
  • 韩硕;邹磊 - 北京大学
  • 2017-03-31 - 2019-10-18 - G06F16/2453
  • 本发明公开了一种数据查询的方法和装置,属于数据库技术领域。方法包括:获取用户输入的查询信息,对查询信息进行分词得到第一关键词;根据每个第一关键词,从数据图中选择每个第一关键词对应的第二关键词和角色,得到每个第二关键词和每个第二关键词的角色;根据每个第二关键词和每个第二关键词的角色,确定至少一个跨接边,每个跨接边连接角色为顶点的任意两个第二关键词和角色为关系边的任意一个第二关键词;确定每个跨接边的边权,并根据每个跨接边的边权,选择边权最小的预设数目个目标跨接边;根据预设数目个目标跨接边,确定查询图;从数据图中查询查询图对应的查询数据,输出查询数据。提高了数据查询的准确率。
  • 一种基于大数据原理的智能信息提取方法-201910595602.9
  • 宋妍;吕娜;高巍 - 牡丹江师范学院
  • 2019-07-03 - 2019-10-01 - G06F16/2453
  • 本发明涉及信息提取领域,特别涉及一种基于大数据原理的智能信息提取方法,包括如下步骤:通过智能设备、企业在线系统、企业离线系统、社交网络或互联网平台等进行大数据的采集;通过数据抽取和集成工具对采集到的广泛异构的数据源进行抽取和集成;利用存储工具通过采用统一定义的结构来对经过关联和聚合之后的数据进行数据存储;利用数据分析技术对存储的数据进行数据分析;通过可视化技术或人机交互技术将分析结果展现给终端用户,本发明提供了一种检索准确度高的智能信息提取方法。
  • 用于大数据预分析的方法和装置-201510630493.1
  • 何东杰 - 中国银联股份有限公司
  • 2015-09-29 - 2019-10-01 - G06F16/2453
  • 本发明提出了一种用于大数据预分析的方法和装置,所述方法包括:接收来自用户的数据查询及分析命令,其中,所述用户能够选择式地或者直接地输入所述数据查询及分析命令;解析所述数据查询及分析命令以确定其定义的数据处理任务,并随之基于预定规则优化并执行所述数据处理任务;基于存储优化算法存储所述数据处理任务执行过程中使用的数据;向用户输出所述数据处理任务的执行结果。本发明所公开的用于大数据预分析的方法和装置能够显著地提高大数据预分析结果的有效性和准确性。
  • 一种数据业务处理方法、系统及相关组件-201910569477.4
  • 李松青;杨刚 - 浪潮商用机器有限公司
  • 2019-06-27 - 2019-09-27 - G06F16/2453
  • 本申请公开了一种数据业务处理方法,应用于数据库集群系统的主库服务器,包括接收数据业务请求并判断所述数据业务请求是否为SELECT SQL语句;若是,则利用GPU执行所述数据业务请求对应的数据处理操作;若否,则利用CPU执行所述数据业务请求对应的数据处理操作。本申请能够降低SELECT SQL语句对于数据库服务器联机交易类业务的影响。本申请还公开了一种数据业务处理系统、一种计算机可读存储介质及一种电子设备,具有以上有益效果。
  • 支持混合数据类型的关联查询及模糊分组的查询扩展方法-201610783143.3
  • 黄晓虎;王杰;薛皓;王梅 - 东华大学
  • 2016-08-30 - 2019-09-27 - G06F16/2453
  • 本发明提供了一种支持混合数据类型的关联查询及模糊分组的查询扩展方法,包括以下步骤:步骤1、架构搭建;步骤2、数据存储;步骤3、查询扩展;步骤4、查询解析;步骤5、混合连接;步骤6、模糊分组;步骤7、封装结果并返回。本发明针对分布式数据库环境中混合类型数据不能通过一定规则连接以及指定类型数据聚合操作功能局限性问题,为用户提供聚合与连接的SQL扩展句法,使其能够通过指定语句完成包括模糊分组以及模糊连接等查询扩展的方法。扩展了分布式数据库的功能性和适应性。
  • 数据处理方法、装置及电子设备-201910488356.7
  • 周罗武 - 腾讯科技(成都)有限公司
  • 2019-06-05 - 2019-09-20 - G06F16/2453
  • 本发明提供了一种数据处理方法、装置及电子设备,涉及计算机技术领域,该方法包括:接收客户端发送的数据查询请求;根据模块的配置数据将所述数据查询请求发送至存储服务器;接收所述存储服务器响应所述数据查询请求而返回的模块的数据,并将所述模块的数据进行封装以得到所述数据查询请求对应的数据查询结果;将所述数据查询结果发送至所述客户端以进行显示。本发明只需要通过服务器对配置数据进行少量修改即可,减少了操作步骤,提高了处理效率;避免了客户端和服务器均需要升级为新版本的限制,减少了局限性,避免了升级新版本时用户需要不断下载新的安装包的操作,增加了应用范围,提高了用户体验。
  • 基于spring和poi的web端自定义报表的实现方法-201811252670.7
  • 薛雨聪;周宇;周金明;赵丽 - 南京行者易智能交通科技有限公司
  • 2018-10-25 - 2019-09-20 - G06F16/2453
  • 本发明公开了一种基于spring和poi的web端自定义报表的实现方法,包括以下步骤:步骤1,接收查询条件参数p和模板参数m的指令;步骤2,确定模板信息M;步骤3,形成查询条件数据集P;步骤4,获取所述模板信息M定义的每个主表和需要查询的主表内容MC,以及各主表间的逻辑关联键的数据集J;步骤5,通过所述主表内容MC和系统预定义结构数据WD生成数据集Dx;步骤6,生成完整的查询数据语句;步骤7,将数据集Rx和excel数据列对应;步骤8,判断是否存在未查询的主表数据,若存在返回步骤5;步骤9,形成报表的数据R;步骤10,将每列的样式信息与列标题对应,存入数据集S;步骤11,最终得到excel文件对象WB。
  • 一种数据库的操作方法及装置-201510651316.1
  • 郭李明 - 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司
  • 2015-10-10 - 2019-09-20 - G06F16/2453
  • 本发明公开了一种数据库的操作方法及装置。所述方法包括:管理节点获取数据库操作请求,从所述操作请求中提取虚拟数据信息;所述管理节点根据所述映射规则确定所述虚拟数据信息对应的一个或多个实际数据地址;所述管理节点根据所述实际数据地址产生数据库操作任务;所述管理节点将数据库操作任务调度给计算节点进行处理。本发明实施例提供的技术方案,将自定义的虚拟数据信息与实际数据地址在映射规则中进行对应,用户通过查询引擎根据所述虚拟数据信息进行数据库查询时,可自动连接到对应的数据库表,达到便于搜索引擎的维护,简化数据查询过程,以及提高数据查询速度的有益效果。
  • 数据查询的处理方法及装置-201610833403.3
  • 简恒懿 - 北京百度网讯科技有限公司
  • 2016-09-19 - 2019-09-20 - G06F16/2453
  • 本发明提供一种数据查询的处理方法及装置。所述方法包括:根据数据过滤条件和数据查询的起始时刻开始,从时序数据库中获取N个数据点,N为预设的软性限制阈值;根据数据查询的各聚合函数的采样时间的最小公倍数、第N个数据点对应的时刻以及起始时刻,获取限制时刻;当限制时刻位于结束时刻之前,以第N个数据点对应的时刻开始,根据数据过滤条件从时序数据库中继续获取限制时刻之前的剩余数据点;根据各聚合函数对起始时刻至限制时刻之间的所有数据点进行聚合处理,得到第一数据查询结果。通过采用本发明的技术方案,数据查询时所消耗的计算机资源更少,消耗的时间更短,且能够有效地提高数据查询的效率。
  • 一种基于Solr实现HBase多条件查询的方法及系统-201611181717.6
  • 石祖恒;边浩男;黄利庆;韩昌雷 - 深圳盒子信息科技有限公司
  • 2016-12-19 - 2019-09-13 - G06F16/2453
  • 本发明适用于大数据领域,提供了一种基于Solr实现HBase多条件查询的方法及系统,所述方法包括:客户端向HBase数据库表提交多条件查询请求时,首先根据查询条件从Solr服务器中查询预先建立的索引,向客户端返回HBase数据库表行键RowKey集合,然后根据RowKey直接查询HBase表,返回最终结果;其中,所述RowKey集合的元素为数据库表行键。本发明解决了现有实现多条件查询功能的方式,查询HBase表时需要全表扫描,难以满足更多查询需求的问题。有益效果在于以下两方面,一方面,查询HBase表时,无需全表扫描,减少了查询时间,提高了查询效率,另一方面,具备足够的灵活性,能满足多条件查询的需求,提高了查询的智能程度。
  • 数据查询平台、方法、设备和存储介质-201910492537.7
  • 胡利斌;杨纲;申波;董延峰;韩文欣 - 江苏满运软件科技有限公司
  • 2019-06-06 - 2019-09-10 - G06F16/2453
  • 本发明实施例公开了一种数据查询平台、方法、设备和存储介质,其中,所述数据查询平台包括:执行计划获取模块,用于对查询请求对应的查询语句进行分析,确定所述查询请求的执行计划,其中,所述执行计划用于从不同维度对查询请求的资源预占用情况进行描述;查询引擎选择模块,用于根据所述执行计划和至少两个执行引擎的属性信息,从所述至少两个执行引擎中选择目标执行引擎进行查询;查询结果获取模块,用于获取所述目标执行引擎的查询结果。本发明实施例通过对查询语句的分析,确定查询请求的执行计划,依据执行计划将不同的查询请求路由到不同的执行引擎,保障查询效率及各引擎集群的稳定性。
  • 一种数据查询的方法以及相关装置-201910497497.5
  • 周罗武 - 腾讯科技(深圳)有限公司
  • 2019-06-10 - 2019-09-10 - G06F16/2453
  • 本申请公开了一种数据查询的方法以及相关装置,通过在现有的数据查询架构中加入数据处理服务器,其中,数据处理服务器周期性获取活动数据库中的原始数据,并且对该原始数据按照预设规则分类,将分类的结果发送至缓存数据库,在缓存数据库数据失效或出现问题时,可以及时的从数据处理服务器获取最新的原始数据,保证了终端程序查询数据过程的正常运行,提高了查询过程稳定性;由于原始数据与用户的订阅数据具有对应关系,在支持不同的用户查询不一样的活动列表的时候,保障查询过程的高效性及稳定性,从而提升产品的可用性和用户体验。
  • 索引查找方法、查找装置、电子设备及存储介质-201910515781.0
  • 尹滔 - 北京金山云网络技术有限公司;北京金山云科技有限公司
  • 2019-06-14 - 2019-09-10 - G06F16/2453
  • 本发明实施例提供了一种索引查找方法、查找装置、电子设备及存储介质,其中方法包括:获取目标索引标识;基于预设查找算法将目标索引标识和预先存储在第一存储介质中的多个参考索引标识进行比较,确定与目标索引标识对应的目标索引区间;从存储在第二存储介质中的索引文件中确定与目标索引区间对应的索引信息,得到目标索引信息,并将目标索引信息读取到第一存储介质中;基于预设的查找算法在目标索引信息中查找目标索引标识,得到待查找索引。本发明实施例能够缩短索引的查找时间。
  • 高并发数据查询方法、装置、系统、设备及可读存储介质-201910389924.8
  • 杨兆辉;汪金忠;徐根林;孙迁 - 苏宁云计算有限公司
  • 2019-05-10 - 2019-09-06 - G06F16/2453
  • 本发明公开了一种高并发数据查询方法、装置、系统、设备及计算机可读存储介质,属于大数据技术领域。所述方法包括:根据数据分片的查询历史数据获取查询并发数;根据所述查询并发数计算得到写入副本数;根据所述写入副本数,按照写入负载指数由低到高分别写入到对应节点;根据数据分片的查询请求,按照查询负载指数由低到高到相应节点获取查询结果。本发明通过提供一种高并发数据查询方案,使得在大数据高并发查询场景下,用户的查询性能不会降低,查询性能稳定,波动小。
  • 数据处理方法及装置-201910420701.3
  • 高磊 - 北京互金新融科技有限公司
  • 2019-05-20 - 2019-09-06 - G06F16/2453
  • 本发明公开了一种数据处理方法及装置。其中,该方法包括:获取数据初始查询结果和待显示模板,其中,所述数据初始查询结果存储在第一客户端的预设数据库中;生成与所述待显示模板对应的数据转换指令;执行所述数据转换指令,以将所述数据初始查询结果的数据格式转换为目标显示格式,得到目标查询数据,其中,所述目标查询数据显示在第二客户端的设备界面或显示在所述第一客户端的目标应用界面。本发明解决了在相关技术中输出的数据量受到限制的技术问题。
  • 一种SQL优化方法及设备-201710772704.4
  • 陈振强;熊仲健 - 星环信息科技(上海)有限公司
  • 2017-08-31 - 2019-09-06 - G06F16/2453
  • 本申请的目的是提供一种SQL优化方法及设备,本申请通过确定SQL语句中的至少一个待优化的查询块;分别对每个所述待优化的查询块进行分析提取,得到每个所述待优化的查询块对应的过滤条件;分别基于每个所述过滤条件对对应的所述待优化的查询块进行优化,得到所述SQL语句中的每个优化后的查询块,实现了基于过滤条件对对应的待优化的查询块的过滤,减少了后续对查询块的计算量,由于对SQL语句中的查询块进行了过滤优化,进而也对应得到了优化后的SQL语句,也实现了对SQL语句的优化,进而提高了SQL执行的性能。
  • 分页实现方法和分页系统-201610134554.X
  • 王瑞波 - 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司
  • 2016-03-09 - 2019-08-30 - G06F16/2453
  • 本发明实施例提供的分页实现方法,包括:接收分页请求信息,所述分页请求数据中包括查询SQL和第二数据的校验信息;判断第一缓存中是否存储所述查询SQL;根据所述查询SQL检索所述第一缓存,获得第一分片索引;根据所述校验信息判断第二缓存中是否存储所述第二数据;从所述第二缓存中获得第一数据;以及根据所述第一数据获得所述第二数据;其中,所述第一分片索引包含至少一个分片索引,所述第一缓存存储所述查询SQL和所述第一分片索引的对应关系,所述第二缓存储所述第一数据,所述第一数据以一个分片索引标记。通过第一缓存和第二缓存的组合使用,规避数据库分页和内存分页的缺点,提高内存使用效率,满足高并发的分页请求。
专利分类
×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

400-8765-105周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top