[发明专利]数据处理方法及装置、存储介质及电子终端在审
| 申请号: | 202011629724.4 | 申请日: | 2020-12-31 |
| 公开(公告)号: | CN112699156A | 公开(公告)日: | 2021-04-23 |
| 发明(设计)人: | 黄增荣 | 申请(专利权)人: | 京东数字科技控股股份有限公司 |
| 主分类号: | G06F16/2457 | 分类号: | G06F16/2457;G06F16/22;G06F9/48;G06F9/50;G06F9/54 |
| 代理公司: | 北京律智知识产权代理有限公司 11438 | 代理人: | 孙宝海;阚梓瑄 |
| 地址: | 100176 北京市北京经济*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数据处理 方法 装置 存储 介质 电子 终端 | ||
1.一种数据处理方法,其特征在于,包括:
接收数据生产端上传的待处理数据;其中,所述待处理数据包含数据类型标识;
基于所述数据类型标识将第一类型数据保存至数据库,以及将第二类型数据保存至任务表;
由所述数据库中提取所述任务表并进行数据解析,以根据数据解析结果将数据主键保存至redis数据库队列中,将对应的数据保存至redis数据库键值对中;
响应于服务启动指令,由所述redis数据库队列中获取目标数据主键,以基于所述目标数据主键批量拉取对应的数据,并执行拉取的所述数据。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
所述数据生产端对目标数据进行解析以对所述目标数据进行分类,并对所述目标数据分类结果配置数据类型标识以生成所述待处理数据。
3.根据权利要求1所述的方法,其特征在于,所述基于所述数据类型标识将第一类型数据保存至数据库之前,所述方法还包括:
为所述第一类型数据配置事物标识信息,以用于将配置有相同事物标识信息的所述第一类型数据全部写入所述数据中。
4.根据权利要求1或3所述的方法,其特征在于,所述基于所述数据类型标识将第一类型数据保存至数据库,以及将第二类型数据保存至任务表时,所述方法还包括:
为所述第一类型数据和所述第二类型数据配置数据调用监控任务,以用于监控是否存在远程数据调用任务;
在识别到所述远程数据调用任务时,阻断所述远程数据调用任务并生成调用提示信息。
5.根据权利要求1所述的方法,其特征在于,所述由所述数据库中提取所述任务表并进行数据解析,包括:
响应于预配置的定时任务,在目标时间节点提取所述任务表并进行解析。
6.根据权利要求1所述的方法,其特征在于,所述将数据主键保存至redis数据库队列中之前,所述方法还包括:
读取所述第一类型数据的数据总量,并确定数据总量对应的数据管理区间;
基于所述数据管理区间调用对应的数据管理策略为所述数据主键配置队列,并将各所述数据主键保存至对应的数据队列中。
7.根据权利要求1所述的方法,其特征在于,所述响应于服务启动指令,由所述redis数据库队列中获取目标数据主键,以基于所述目标数据主键批量拉取对应的数据,并执行拉取的所述数据,包括:
响应于服务启动指令获取可用资源信息,并基于所述可用资源信息配置数据拉取策略;
执行所述数据拉取策略,以从所述redis数据库队列中获取目标数据主键;
根据所述目标数据主键向键值对中提取对应的数据,并加载到缓存中;
由内存提取数据并处理所述数据,并根据数据处理结果更新数据位置信息。
8.一种数据处理装置,其特征在于,包括:
待处理数据接收模块,用于接收数据生产端上传的待处理数据;其中,所述待处理数据包含数据类型标识;
待处理数据存储模块,用于基于所述数据类型标识将第一类型数据保存至数据库,以及将第二类型数据保存至任务表;
数据解析模块,用于由所述数据库中提取所述任务表并进行数据解析,以根据数据解析结果将数据主键保存至redis数据库队列中,将对应的数据保存至redis数据库键值对中;
数据处理模块,用于响应于服务启动指令,由所述redis数据库队列中获取目标数据主键,以基于所述目标数据主键批量拉取对应的数据,并执行拉取的所述数据。
9.一种存储介质,其上存储有计算机程序,所述程序被处理器执行时实现根据权利要求1至7中任一项所述的数据处理方法。
10.一种电子终端,其特征在于,包括:
处理器;以及
存储器,用于存储所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行如权利要求1至7中任一项所述的数据处理方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于京东数字科技控股股份有限公司,未经京东数字科技控股股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011629724.4/1.html,转载请声明来源钻瓜专利网。
- 上一篇:配重式桥墩
- 下一篇:一种内容复制方法、智能终端及存储介质





