[发明专利]大批量数据处理方法、装置、计算机设备及存储介质在审
申请号: | 201910367480.8 | 申请日: | 2019-05-05 |
公开(公告)号: | CN110263048A | 公开(公告)日: | 2019-09-20 |
发明(设计)人: | 孙强;唐龙 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F16/23 | 分类号: | G06F16/23;G06F16/951 |
代理公司: | 深圳市精英专利事务所 44242 | 代理人: | 林燕云 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 批次数据 预设 数据处理 计算机设备 存储介质 排他锁 字段 数据库 抓取 处理目标 获取目标 数据更新 大数据 释放 分配 重复 应用 保证 | ||
1.一种大批量数据处理方法,其特征在于,包括:
从预设数据库中获取所有待处理批次数据并对每个所述待处理批次数据分配批次号;
将其中一个批次号的所述待处理批次数据作为目标批次数据,对所述目标批次数据添加排他锁并处理所述目标批次数据;
若所述目标批次数据处理完成,获取所述目标批次数据中的初始预设字段值并根据所述初始预设字段值将所述目标批次数据提交至所述预设数据库以释放所述排他锁;
根据所述批次号将下一批次号的所述待处理批次数据作为目标批次数据进行处理直至所有批次号的所述待处理批次数据全部处理完成。
2.根据权利要求1所述的大批量数据处理方法,其特征在于,所述从预设数据库中获取所有待处理批次数据并对每个所述待处理批次数据分配批次号,包括:
从预设数据库中获取所有待处理批次数据;
根据所述待处理批次数据的批次数量分配批次号;
根据所述批次号按照由小到大对所述待处理批次数据进行排序。
3.根据权利要求1所述的大批量数据处理方法,其特征在于,所述将其中一个批次号的所述待处理批次数据作为目标批次数据,对所述目标批次数据添加排他锁并处理所述目标批次数据,包括:
将其中一个批次号的所述待处理批次数据作为目标批次数据;
调用所述预设数据库的排他锁机制对所述目标批次数据添加排他锁;
对已添加所述排他锁的所述目标批次数据进行处理;
对处理完成的所述目标批次数据添加处理标记。
4.根据权利要求1所述的大批量数据处理方法,其特征在于,所述获取所述目标批次数据中的初始预设字段值并根据所述初始预设字段值将所述目标批次数据提交至所述预设数据库以释放所述排他锁,包括:
从所述目标批次数据中获取初始预设字段值;
从所述预设数据库中获取所述目标批次数据的当前预设字段值;
将所述初始预设字段值与所述当前预设字段值进行对比;
若所述初始预设字段值与所述当前预设字段值相同,则提交所述目标批次数据至所述预设数据库以释放所述排他锁。
5.根据权利要求3所述的大批量数据处理方法,其特征在于,所述根据所述批次号将下一批次号的所述待处理批次数据作为目标批次数据进行处理直至所有批次号的所述待处理批次数据全部处理完成,包括:
根据所述批次号获取下一批次号的所述待处理批次数据;
判断所述待处理批次数据是否存在所述处理标记;
若所述待处理批次数据存在所述处理标记,将下一批次号的所述待处理批次数据作为目标批次数据进行处理。
6.一种大批量数据处理装置,其特征在于,包括:
分配单元,用于从预设数据库中获取所有待处理批次数据并对每个所述待处理批次数据分配批次号;
排他单元,用于将其中一个批次号的所述待处理批次数据作为目标批次数据,对所述目标批次数据添加排他锁并处理所述目标批次数据;
释放单元,用于若所述目标批次数据处理完成,获取所述目标批次数据中的初始预设字段值并根据所述初始预设字段值将所述目标批次数据提交至所述预设数据库以释放所述排他锁;
处理单元,用于根据所述批次号将下一批次号的所述待处理批次数据作为目标批次数据进行处理直至所有批次号的所述待处理批次数据全部处理完成。
7.根据权利要求6所述的大批量数据处理装置,其特征在于,所述分配单元包括:
获取子单元,用于从预设数据库中获取所有待处理批次数据;
分配子单元,用于根据所述待处理批次数据的批次数量分配批次号;
排序单元,用于根据所述批次号按照由小到大对所述待处理批次数据进行排序。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910367480.8/1.html,转载请声明来源钻瓜专利网。