[发明专利]用于处理数据的方法和装置在审
申请号: | 201811310892.X | 申请日: | 2018-11-06 |
公开(公告)号: | CN111209311A | 公开(公告)日: | 2020-05-29 |
发明(设计)人: | 高予兵 | 申请(专利权)人: | 京东数字科技控股有限公司 |
主分类号: | G06F16/2457 | 分类号: | G06F16/2457;G06Q40/02 |
代理公司: | 北京英赛嘉华知识产权代理有限责任公司 11204 | 代理人: | 王达佐;马晓亚 |
地址: | 100176 北京市大兴区经济*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 处理 数据 方法 装置 | ||
本申请实施例公开了处理数据的方法和装置。该方法的一具体实施方式包括:获取待处理的至少一条数据;创建预定数量的队列,其中,每个队列对应一个过滤条件;将至少一条数据存储到每个队列中;对于预定数量的队列中的队列,从该队列中读取数据,根据该队列对应的过滤条件对读取出的数据进行标记。该实施方式实现了对过滤任务做并行处理,节省耗时。
技术领域
本申请实施例涉及计算机技术领域,具体涉及用于处理数据的方法和装置。
背景技术
目前许多金融领域数据的过滤(例如,资产证券化过滤)是采用按照协议分表策略,将固定金额的资产迁移到协议表中,然后根据协议的过滤条件对其数据表进行资产过滤,资产标记。
如果资产过滤不足的话,会启动资产调整程序将其他协议数据表中的资产调整资产到其协议数据表,直至过滤完成。会存在如下缺陷:1、任务串行执行,耗时时间长。2、资产分布不合理,很可能会造成资产不足,导致多次资产调整。3、资产调整是大量数据迁移的过程,并且包含数据物理删除,消耗性能。
发明内容
本申请实施例提出了处理数据的方法和装置。
第一方面,本申请实施例提供了一种处理数据的方法,包括:获取待处理的至少一条数据;创建预定数量的队列,其中,每个队列对应一个过滤条件;将至少一条数据存储到每个队列中;对于预定数量的队列中的队列,从该队列中读取数据,根据该队列对应的过滤条件对读取出的数据进行标记。
在一些实施例中,从该队列中读取数据,根据该队列对应的过滤条件对读取出的数据进行标记,包括:从该队列头部取出一条未加锁的数据;将未加锁的数据加锁;如果加锁后的数据满足该队列对应的过滤条件,则对加锁后的数据进行标记。
在一些实施例中,该方法还包括:如果加锁后的数据不满足该队列对应的过滤条件,则将加锁后的数据解锁后放回队列。
在一些实施例中,队列为双端队列;以及该方法还包括:对于预定数量的队列中的每个队列,若该队列中的数据被取空,则通过工作窃取算法从其它非空队列的尾部读取数据,根据该队列的过滤条件对读取出的数据进行标记。
在一些实施例中,数据包括金额;以及获取待处理的至少一条数据,包括:按金额由大到小的顺序获取待处理的至少一条数据。
在一些实施例中,该方法还包括:对于预定数量的队列中的队列,若该队列中满足该队列对应的过滤条件的数据所包括的金额之和达到预定数值,则删除该队列。
第二方面,本申请实施例提供了一种处理数据的装置,包括:获取单元,被配置成获取待处理的至少一条数据;创建单元,被配置成创建预定数量的队列,其中,每个队列对应一个过滤条件;存储单元,被配置成将至少一条数据存储到每个队列中;标记单元,被配置成对于预定数量的队列中的队列,从该队列中读取数据,根据该队列对应的过滤条件对读取出的数据进行标记。
在一些实施例中,标记单元进一步被配置成:从该队列头部取出一条未加锁的数据;将未加锁的数据加锁;如果加锁后的数据满足该队列对应的过滤条件,则对加锁后的数据进行标记。
在一些实施例中,该装置还包括释放单元,被配置成:如果加锁后的数据不满足该队列对应的过滤条件,则将加锁后的数据解锁后放回队列。
在一些实施例中,队列为双端队列;以及该装置还包括窃取单元,被配置成:对于预定数量的队列中的每个队列,若该队列中的数据被取空,则通过工作窃取算法从其它非空队列的尾部读取数据,根据该队列的过滤条件对读取出的数据进行标记。
在一些实施例中,数据包括金额;以及获取单元进一步被配置成:按金额由大到小的顺序获取待处理的至少一条数据。
在一些实施例中,该装置还包括删除单元,被配置成:对于预定数量的队列中的队列,若该队列中满足该队列对应的过滤条件的数据所包括的金额之和达到预定数值,则删除该队列。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于京东数字科技控股有限公司,未经京东数字科技控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811310892.X/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置