[发明专利]一种数据采集方法及装置在审
申请号: | 202110833620.3 | 申请日: | 2021-07-23 |
公开(公告)号: | CN113553379A | 公开(公告)日: | 2021-10-26 |
发明(设计)人: | 杨凯;刘娟;颜昭霞;叶光禄 | 申请(专利权)人: | 中信银行股份有限公司 |
主分类号: | G06F16/27 | 分类号: | G06F16/27;G06F9/455 |
代理公司: | 北京市兰台律师事务所 11354 | 代理人: | 张博;张峰 |
地址: | 100020 北京市朝阳区光*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 采集 方法 装置 | ||
本申请提供了一种数据采集方法及装置,基于数据采集系统,所述系统包括数据库同步组件和数据库同步代理。在本说明书中的数据采集系统处于作业状态时,根据数据库同步组件得到的容器组件内部的代码对数据采集过程涉及的各个端均不透明,针对该容器组件,仅需通过对其数据同步接口进行配置即可使其在数据采集过程中实现其功能,而无需对数据库同步组件中的代码进行调整,有效地降低了本说明书中的数据采集系统的使用门槛。
技术领域
本申请涉及数据采集技术领域,具体而言,本申请涉及一种数据采集方法及装置。
背景技术
随着信息社会的发展,各种业务的处理均较大程度的有赖于针对数据进行的采集。
数据采集过程所针对的对象称为数据库,以关系型数据库为例,各个数据库存储数据的方式不完全相同,使得针对数据库进行的数据采集面临较为复杂的采集环境。此外,数据使用者对数据的需求也不同,也一定程度的增加了数据采集的复杂程度。使得数据使用者不得不根据其自身的业务需求对进行数据采集时采用的数据库同步组件进行维护和管理。然而,数据库同步组件多是基于代码的应用程序或固化有应用程序的装置,对数据库同步组件进行的维护和管理则需要较强的专业知识,对使用者来说悉知数据库同步组件的代码难度较大,提高了数据采集的门槛。
发明内容
本申请提供了一种数据采集方法及装置,有效地降低数据采集系统的使用门槛提,本申请采用的技术方案如下:
第一方面,提供了一种数据采集方法,所述方法基于数据采集系统,所述系统包括数据库同步组件和数据库同步代理;所述方法包括:
针对每个预设的数据库,获取该数据库的元数据;
根据所述元数据,确定可用信息,所述可用信息示出所要采集的数据在所述数据库中的存储位置;
根据所述可用信息,对所述数据库同步组件进行容器化,得到容器组件;
根据所述可用信息,建立所述容器组件与所述数据库同步代理之间的连接;
采用连接后的容器组件与所述数据库同步代理,进行数据采集。
可选地,根据所述元数据,确定可用信息之前,所述方法还包括:
根据历史上的预设时间段内,所述数据采集系统接收到的各个数据获取请求,确定所述数据采集系统在所述预设时间段内,采集到的各个数据的描述信息;
根据所述元数据,确定可用信息,包括:
在所述元数据中,确定出与所述描述信息匹配的数据,作为可用信息。
可选地,根据所述可用信息,对所述数据库同步组件进行容器化,得到容器组件,包括:
根据数据库中对应于所述可用信息的数据的存储位置进行处理,得到若干个分片;
根据得到的各个分片,对所述数据库同步组件进行容器化,使得得到的容器组件包括若干数据同步接口,所述数据同步接口与所述分片一一对应。
可选地,根据所述可用信息,建立所述容器组件与所述数据库同步代理之间的连接,包括:
将根据所述可用信息得到的数据同步接口,添加至所述数据库同步代理,以建立所述容器组件与所述数据库同步代理之间的连接。
可选地,采用连接后的容器组件与所述数据库同步代理,进行数据采集之前,所述方法还包括:
根据所述可用信息,生成所述数据库同步代理的指定接口;所述指定接口用于获取对应于所述可用信息的数据获取请求。
可选地,采用连接后的容器组件与所述数据库同步代理,进行数据采集,包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中信银行股份有限公司,未经中信银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110833620.3/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置