[发明专利]一种数据采集方法及装置在审

专利信息
申请号: 202110833620.3 申请日: 2021-07-23
公开(公告)号: CN113553379A 公开(公告)日: 2021-10-26
发明(设计)人: 杨凯;刘娟;颜昭霞;叶光禄 申请(专利权)人: 中信银行股份有限公司
主分类号: G06F16/27 分类号: G06F16/27;G06F9/455
代理公司: 北京市兰台律师事务所 11354 代理人: 张博;张峰
地址: 100020 北京市朝阳区光*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 数据 采集 方法 装置
【说明书】:

本申请提供了一种数据采集方法及装置,基于数据采集系统,所述系统包括数据库同步组件和数据库同步代理。在本说明书中的数据采集系统处于作业状态时,根据数据库同步组件得到的容器组件内部的代码对数据采集过程涉及的各个端均不透明,针对该容器组件,仅需通过对其数据同步接口进行配置即可使其在数据采集过程中实现其功能,而无需对数据库同步组件中的代码进行调整,有效地降低了本说明书中的数据采集系统的使用门槛。

技术领域

本申请涉及数据采集技术领域,具体而言,本申请涉及一种数据采集方法及装置。

背景技术

随着信息社会的发展,各种业务的处理均较大程度的有赖于针对数据进行的采集。

数据采集过程所针对的对象称为数据库,以关系型数据库为例,各个数据库存储数据的方式不完全相同,使得针对数据库进行的数据采集面临较为复杂的采集环境。此外,数据使用者对数据的需求也不同,也一定程度的增加了数据采集的复杂程度。使得数据使用者不得不根据其自身的业务需求对进行数据采集时采用的数据库同步组件进行维护和管理。然而,数据库同步组件多是基于代码的应用程序或固化有应用程序的装置,对数据库同步组件进行的维护和管理则需要较强的专业知识,对使用者来说悉知数据库同步组件的代码难度较大,提高了数据采集的门槛。

发明内容

本申请提供了一种数据采集方法及装置,有效地降低数据采集系统的使用门槛提,本申请采用的技术方案如下:

第一方面,提供了一种数据采集方法,所述方法基于数据采集系统,所述系统包括数据库同步组件和数据库同步代理;所述方法包括:

针对每个预设的数据库,获取该数据库的元数据;

根据所述元数据,确定可用信息,所述可用信息示出所要采集的数据在所述数据库中的存储位置;

根据所述可用信息,对所述数据库同步组件进行容器化,得到容器组件;

根据所述可用信息,建立所述容器组件与所述数据库同步代理之间的连接;

采用连接后的容器组件与所述数据库同步代理,进行数据采集。

可选地,根据所述元数据,确定可用信息之前,所述方法还包括:

根据历史上的预设时间段内,所述数据采集系统接收到的各个数据获取请求,确定所述数据采集系统在所述预设时间段内,采集到的各个数据的描述信息;

根据所述元数据,确定可用信息,包括:

在所述元数据中,确定出与所述描述信息匹配的数据,作为可用信息。

可选地,根据所述可用信息,对所述数据库同步组件进行容器化,得到容器组件,包括:

根据数据库中对应于所述可用信息的数据的存储位置进行处理,得到若干个分片;

根据得到的各个分片,对所述数据库同步组件进行容器化,使得得到的容器组件包括若干数据同步接口,所述数据同步接口与所述分片一一对应。

可选地,根据所述可用信息,建立所述容器组件与所述数据库同步代理之间的连接,包括:

将根据所述可用信息得到的数据同步接口,添加至所述数据库同步代理,以建立所述容器组件与所述数据库同步代理之间的连接。

可选地,采用连接后的容器组件与所述数据库同步代理,进行数据采集之前,所述方法还包括:

根据所述可用信息,生成所述数据库同步代理的指定接口;所述指定接口用于获取对应于所述可用信息的数据获取请求。

可选地,采用连接后的容器组件与所述数据库同步代理,进行数据采集,包括:

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中信银行股份有限公司,未经中信银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202110833620.3/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top