[发明专利]数据处理方法、装置、计算机设备和存储介质在审
| 申请号: | 202111340322.7 | 申请日: | 2021-11-12 |
| 公开(公告)号: | CN114238264A | 公开(公告)日: | 2022-03-25 |
| 发明(设计)人: | 顾君威;马晨;孙文韬;张霞;廖阳侨 | 申请(专利权)人: | 上海浦东发展银行股份有限公司 |
| 主分类号: | G06F16/21 | 分类号: | G06F16/21;G06F16/2453 |
| 代理公司: | 华进联合专利商标代理有限公司 44224 | 代理人: | 黄丽霞 |
| 地址: | 200001 *** | 国省代码: | 上海;31 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数据处理 方法 装置 计算机 设备 存储 介质 | ||
1.一种数据处理方法,其特征在于,所述方法包括:
接收数据流,所述数据流中包含压缩数据包;
基于预设数据存储路径,将所述数据流存储至第一分布式存储空间;
按照预设时间间隔以及所述预设数据存储路径,对已存储的所述数据流中的数据进行扫描,检测所述数据流中是否存在信号文件;
若存在所述信号文件,则对所述数据流中的压缩数据包进行解压缩,并基于预设的数据查询路径将解压缩后的数据存储至第二分布式存储空间,以使在所述第二分布式存储空间中进行数据查询。
2.根据权利要求1所述的方法,其特征在于,所述若存在所述信号文件,则对所述数据流中的压缩数据包进行解压缩,包括:
若存在所述信号文件,响应于所述信号文件的触发,将每一压缩数据包按照预设数据块大小进行拆分,得到多个待解压缩的数据块;
按照预设数据分片大小将每一所述待解压缩的数据块进行拆分,得到多个待解压缩的数据分片;
通过调用数据处理线程,对每一所述数据分片中的压缩数据进行解析计算,得到解压缩后的分片数据;
将所述解压缩后的分片数据进行汇总处理,得到解压缩后的报表文件。
3.根据权利要求2所述的方法,其特征在于,所述基于预设的数据查询路径将解压缩后的数据存储至第二分布式存储空间,包括:
针对每一解压缩后的报表文件数据匹配对应的数据查询路径,并基于每一所述数据查询路径将所述解压缩后的报表文件数据存储至所述分布式存储空间的目标存储空间;
提取每一所述解压缩后的报表文件数据的特征信息,生成所述报表文件数据的数据标识;
建立包含所述数据标识与所述数据查询路径对应关系的数据查询列表,将所述数据查询列表推送至前端以进行数据查询。
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
接收数据查询请求,所述数据查询请求携带目标数据标识;
根据所述目标数据标识,在所述数据查询列表包含的各数据标识与数据查询路径的对应关系中,确定所述目标数据标识对应的目标数据查询路径;
基于所述目标数据查询路径,在所述第二分布式存储空间中获取目标报表文件数据,并以字节流的形式反馈给前端。
5.一种数据处理装置,其特征在于,所述装置包括:
接收模块,用于接收数据流,所述数据流中包含压缩数据包;
存储模块,用于基于预设数据存储路径,将所述数据流存储至第一分布式存储空间;
检测模块,用于按照预设时间间隔以及所述预设数据存储路径,对已存储的所述数据流中的数据进行扫描,检测所述数据流中是否存在信号文件;
处理模块,用于若存在所述信号文件,则对所述数据流中的压缩数据包进行解压缩,并基于预设的数据查询路径将解压缩后的数据存储至第二分布式存储空间,以使在所述第二分布式存储空间中进行数据查询。
6.一种数据处理系统,其特征在于,所述数据处理系统包括:
数据接入单元,用于接收数据流,所述数据流中包含压缩数据包;
数据存储单元,用于基于预设数据存储路径,将数据流存储至第一分布式存储空间;
数据处理单元,用于按照预设时间间隔以及所述预设数据存储路径,对已存储的所述数据流中的数据进行扫描,检测所述数据流中是否存在信号文件;若存在所述信号文件,则对所述数据流中的压缩数据包进行解压缩,并基于预设的数据查询路径将解压缩后的数据存储至第二分布式存储空间。
7.根据权利要求6所述的系统,其特征在于,所述数据处理系统还包括:
报表数据应用单元,用于接收数据查询请求,根据所述数据查询请求携带的目标数据标识,在数据查询列表包含的各数据标识信息与数据查询路径的对应关系中,确定所述目标数据标识对应的目标查询路径;
基于所述目标查询路径,在所述第二分布式存储空间中获取目标报表文件数据,并以字节流的形式反馈给前端。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海浦东发展银行股份有限公司,未经上海浦东发展银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111340322.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种车载系统相机镜头污渍检测方法及装置
- 下一篇:频偏补偿方法及装置





