[发明专利]基于多级缓存的数据统计方法、装置、终端及存储介质在审
| 申请号: | 202010589637.4 | 申请日: | 2020-06-24 |
| 公开(公告)号: | CN111723115A | 公开(公告)日: | 2020-09-29 |
| 发明(设计)人: | 冯鹏;周维康;陈洁丹 | 申请(专利权)人: | 深圳前海微众银行股份有限公司 |
| 主分类号: | G06F16/2455 | 分类号: | G06F16/2455;G06F16/2457;G06F16/2458 |
| 代理公司: | 深圳市世纪恒程知识产权代理事务所 44287 | 代理人: | 王韬 |
| 地址: | 518000 广东省深圳市前海深港合作区前*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 基于 多级 缓存 数据 统计 方法 装置 终端 存储 介质 | ||
1.一种基于多级缓存的数据统计方法,其特征在于,所述基于多级缓存的数据统计方法包括:
根据采集到的关键数据和所述关键数据的数据类型构建消息数据;
检测所述消息数据的类型属性,并基于所述类型属性确定所述消息数据对应的缓存层级;
按照所述缓存层级将所述消息数据添加至对应的存储空间进行缓存;
在所述存储空间中对所述消息数据进行批量上传并删除。
2.如权利要求1所述的基于多级缓存的数据统计方法,其特征在于,在所述根据采集到的关键数据和所述关键数据的数据类型构建消息数据的步骤之前,还包括:
基于预设应用程序接口收集关键数据和所述关键数据的数据类型;
或者,基于预设数据埋点采集关键数据并检测所述预设数据埋点的重要程度,根据所述重要程度确定所述关键数据的数据类型。
3.如权利要求1所述的基于多级缓存的数据统计方法,其特征在于,所述数据类型包括:重要类型、一般类型和非必要类型,
所述根据采集到的关键数据和所述关键数据的数据类型构建消息数据的步骤包括:
将所述关键数据进行组装并和所述重要类型、所述一般类型或者所述非必要类型结合,以构建得到类型属性为重要消息、一般消息或者非必要消息的消息数据。
4.如权利要求1所述的基于多级缓存的数据统计方法,其特征在于,所述缓存层级包括:内存缓存和数据库缓存,
所述检测所述消息数据的类型属性,并基于所述类型属性确定所述消息数据对应的缓存层级的步骤包括:
检测所述消息数据的类型属性是否为重要消息、一般消息或者非必要消息;
若检测到所述类型属性为重要消息,则确定所述消息数据对应的缓存层级为数据库缓存;
若检测到所述类型属性为一般消息或者为非必要消息,则确定所述消息数据对应的缓存层级为内存缓存。
5.如权利要求4所述的基于多级缓存的数据统计方法,其特征在于,所述按照所述缓存层级将所述消息数据添加至对应的存储空间进行缓存的步骤包括:
若检测到所述消息数据的缓存层级为数据库缓存,则基于所述消息数据生成重要消息上传任务;
执行所述重要消息上传任务将所述消息数据存储至数据库中并对所述数据库中的消息数据量进行更新;
或者,若检测到所述消息数据的缓存层级为内存缓存,则将所述消息数据添加至对应的缓存队列并对内存中的消息数据量进行更新。
6.如权利要求5所述的基于多级缓存的数据统计方法,其特征在于,所述内存中的消息数据量包括:一般消息数据量,
在所述将所述消息数据添加至对应的缓存队列并对内存中的消息数据量进行更新的步骤之后,还包括:
在检测到所述一般消息数据量超过预设批量数据组装阈值时,提取类型属性为一般消息的消息数据的公共参数;
将所述公共参数格式化成为消息组,并基于所述消息组生成重要消息上传任务;
执行所述重要消息上传任务将所述消息组存储至数据库中并对所述数据库中的消息组数据量进行更新。
7.如权利要求1-6任一项所述的基于多级缓存的数据统计方法,其特征在于,所述在所述存储空间中对所述消息数据进行批量上传并删除的步骤包括:
在所述消息数据对应的存储空间中分别读取目标消息数据,其中,所述目标消息数据的数量大于或者等于一;
将所述目标消息数据打包封装后同步上传至预设后台接口,并在上传成功后删除所述存储空间中的所述目标消息数据。
8.一种基于多级缓存的数据统计装置,其特征在于,所述基于多级缓存的数据统计装置包括:
构建模块,用于根据采集到的关键数据和所述关键数据的数据类型构建消息数据;
确定模块,用于检测所述消息数据的类型属性,并基于所述类型属性确定所述消息数据对应的缓存层级;
缓存模块,用于按照所述缓存层级将所述消息数据添加至对应的存储空间进行缓存;
上传模块,用于在所述存储空间中对所述消息数据进行批量上传并删除。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳前海微众银行股份有限公司,未经深圳前海微众银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010589637.4/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种非接触式激光焊锡机
- 下一篇:一种采样袋清洗装置和方法
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





