[发明专利]数据报表生成方法、装置、计算机设备及存储介质在审
| 申请号: | 202210865426.8 | 申请日: | 2022-07-21 |
| 公开(公告)号: | CN115168471A | 公开(公告)日: | 2022-10-11 |
| 发明(设计)人: | 李慎刚 | 申请(专利权)人: | 中国平安财产保险股份有限公司 |
| 主分类号: | G06F16/25 | 分类号: | G06F16/25;G06F16/242;G06F16/28 |
| 代理公司: | 深圳市世联合知识产权代理有限公司 44385 | 代理人: | 郝少剑 |
| 地址: | 518000 广东省深圳市福田区益田路*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数据 报表 生成 方法 装置 计算机 设备 存储 介质 | ||
1.一种数据报表生成方法,其特征在于,包括下述步骤:
采集待进行分析实时数据及离线数据,作为初始数据,并将其存储至预设关系型数据库;
基于Druid数据连接池从所述关系型数据库中获取所述初始数据,并发送至Hive数据仓库;
基于所述Hive数据仓库对所述初始数据进行离线ETL处理,展示至预设数据分析界面;
获取用户在所述数据分析界面通过点击事件选择的数据分析维度、数据展示指标、数据筛选条件和指标关联算法;
基于所述数据分析维度、数据展示指标、数据筛选条件和指标关联算法,生成HQL执行语句;
将所述HQL执行语句转换为数据分析计划存储在基于Hadoop集群的HDFS文件系统中,执行所述数据分析计划,获取数据分析报表;
将所述数据分析报表展示至所述数据分析界面内预设区域。
2.根据权利要求1所述的数据报表生成方法,其特征在于,所述基于Druid数据连接池从所述关系型数据库中获取所述初始数据,并发送至Hive数据仓库的步骤,具体包括:
基于Druid数据连接池从所述关系型数据库中获取所述初始数据,并从预设配置文件中获取所述初始数据的元数据,将所述初始数据和所述元数据一并发送至Hive数据仓库,
其中,所述元数据用于指示所述初始数据在所述关系型数据库中的存储位置,包括初始数据对应表格的表名、所述表格中的列名、所述表格中的分区信息。
3.根据权利要求2所述的数据报表生成方法,其特征在于,所述基于所述Hive数据仓库对所述初始数据进行离线ETL处理的步骤,具体包括:
将所述初始数据加载至基于Hadoop集群的HDFS文件系统内的预设目录下;
在加载完毕后,获取所述初始数据的元数据所对应目录信息,并将所述目录信息发送到所述关系型数据库中进行存储。
4.根据权利要求3所述的数据报表生成方法,其特征在于,所述将所述数据源加载至基于Hadoop集群的HDFS文件系统内的预设目录下的步骤,具体包括:
预先在所述HDFS文件系统中设置若干同级目录,在进行所述加载时,将所述初始数据中各单元数据依照其对应表名或者分区信息区别加载至所述若干同级目录下;
在所述若干同级目录下分别设置若干同级的下级目录,在进行所述加载时,将相同表名下的不同列名或相同分区信息下的不同列名的各单元数据区别加载至所述若干同级的下级目录下;
所述在加载完毕后,获取所述初始数据的元数据所对应目录信息的步骤,具体包括:
在所述加载完成之后,获取所述初始数据中各单元数据依照其对应表名或者分区信息进行区别加载的目录信息,作为第一目录信息;
在所述加载完成之后,获取所述相同表名下的不同列名或相同分区信息下的不同列名的各单元数据进行区别加载的目录信息,作为第二目录信息;
将所述第一目录信息和所述第二目录信息作为所述初始数据的元数据所对应目录信息。
5.根据权利要求3所述的数据报表生成方法,其特征在于,所述基于所述数据分析维度、数据展示指标、数据筛选条件和指标关联算法,生成HQL执行语句的步骤,具体包括:
获取所述初始数据的元数据所对应目录信息作为执行库;
将所述数据分析维度、数据展示指标、数据筛选条件和指标关联算法分别作为执行条件、执行结果、执行结果的约束条件和执行结果的关联关系,与所述执行库共同完成HQL执行语句的构建。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国平安财产保险股份有限公司,未经中国平安财产保险股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210865426.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:水下构件的裂缝修复剂及修复方法
- 下一篇:一种建筑道路施工降尘处理系统及方法
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





