[发明专利]一种导出数据的方法和系统在审
申请号: | 201810864462.6 | 申请日: | 2018-08-01 |
公开(公告)号: | CN110807058A | 公开(公告)日: | 2020-02-18 |
发明(设计)人: | 孙朋伟 | 申请(专利权)人: | 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司 |
主分类号: | G06F16/25 | 分类号: | G06F16/25;G06F16/2455 |
代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 张一军;李阳 |
地址: | 100195 北京市海淀区杏石口路6*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 导出 数据 方法 系统 | ||
1.一种导出数据的方法,其特征在于,包括:
接收业务端发送的业务数据导出指令,所述业务端根据用户的业务数据需求生成该业务数据导出指令;
根据所述业务数据导出指令,查询业务端数据库的业务数据,并基于查询获得的业务数据生成业务数据文件;
将所述业务数据文件发送给用户。
2.根据权利要求1所述的方法,其特征在于,所述根据业务数据导出指令,查询业务端数据库的业务数据,并基于查询获得的业务数据生成业务数据文件包括:
根据所述业务数据导出指令,在任务池中添加对应的业务数据导出任务;
从任务池中抓取业务数据导出任务并执行,以查询业务端数据库的业务数据,并基于查询获得的业务数据生成业务数据文件。
3.根据权利要求2所述的方法,其特征在于,所述任务池中维护有每个业务数据导出任务的是否可执行状态,所述执行的业务数据导出任务是从任务池中抓取的可执行状态的业务数据导出任务;
所述方法还包括:
在任务池中添加业务数据导出任务后,将该业务数据导出任务设置为不可执行状态;
对任务池中设置为不可执行状态的业务数据导出任务执行下述步骤:
确定业务数据导出任务是否可以分解,若可以,则将该业务数据导出任务分解为多个子任务,将每个子任务分别作为新的业务数据导出任务添加到任务池,否则,将该业务数据导出任务更新为可执行状态。
4.根据权利要求1所述的方法,其特征在于,若指定业务数据导出指令,用于指示导出包括主表数据和从表数据的业务数据,
查询业务端数据库的业务数据包括:
在业务端数据库的主库或从库查询主表数据,在查询缓存中查询从表数据,若所述查询缓存中不存在该从表数据,则在业务端数据库的主库或从库查询该从表数据,所述查询缓存中预保存有所述业务端数据库的部分从表数据。
5.根据权利要求4所述的方法,其特征在于,所述查询缓存包括内存缓存和磁盘缓存,所述内存缓存中预保存有所述从表数据中的热数据,所述磁盘缓存中预保存有所述从表数据中的冷数据;
所述在查询缓存中查询从表数据包括:
在内存缓存中查询该从表数据,若所述内存缓存中不存在该从表数据,则在磁盘缓存中查询该从表数据。
6.根据权利要求2所述的方法,其特征在于,所述从任务池中抓取业务数据导出任务并执行,以查询业务端数据库的业务数据,并基于查询获得的业务数据生成业务数据文件包括:
根据所述抓取的业务数据导出任务的导出数据总量,将业务数据导出任务划分为多个批次执行,以逐批次查询业务端数据库的业务数据,并基于每个批次查询获得的业务数据生成业务数据文件。
7.根据权利要求6所述的方法,其特征在于,还包括:
在执行业务数据导出任务之前,统计业务数据导出任务的导出数据总量并记录;
在该业务数据导出任务的每批次的业务数据查询完成后,记录该批次的查询成功的业务数据量和查询失败的业务数据量;
其中,用户可通过业务端查看所述记录。
8.一种导出数据的系统,其特征在于,包括:业务端和数据导出端,所述数据导出端包括:
接收模块,用于接收业务端发送的业务数据导出指令,所述业务端根据用户的业务数据需求生成该业务数据导出指令;
执行模块,用于根据所述业务数据导出指令,查询业务端数据库的业务数据,并基于查询获得的业务数据生成业务数据文件;
发送模块,用于将所述业务数据文件发送给用户。
9.根据权利要求8所述的系统,其特征在于,所述执行模块还用于根据所述业务数据导出指令,在任务池中添加对应的业务数据导出任务;
从任务池中抓取业务数据导出任务并执行,以查询业务端数据库的业务数据,并基于查询获得的业务数据生成业务数据文件。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810864462.6/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置