[发明专利]基于MongoDB元数据管理的异构数据源同步的方法及系统有效
申请号: | 202010616235.9 | 申请日: | 2020-06-29 |
公开(公告)号: | CN111737355B | 公开(公告)日: | 2023-06-23 |
发明(设计)人: | 达星宇;吴明杰;李晓峰;吴智良;李奇;江魁栋 | 申请(专利权)人: | 广东粤财金融云科技股份有限公司 |
主分类号: | G06F16/27 | 分类号: | G06F16/27;G06F16/22;G06F16/23;G06F16/21;G06F9/54 |
代理公司: | 广州云领专利代理事务所(普通合伙) 44441 | 代理人: | 张莲珍 |
地址: | 519000 广东省珠海市香*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于MongoDB元数据管理的异构数据源同步的方法,包括:S1、扫描MySQL源数据端待同步表结构,初始化源端数据表的元数据信息;S2、基于扫描结果,在MongoDB数据库中构建一个通用的数据库元数据模型;S3、对MySQL数据库的binlog操作日志进行监听,解析操作日志后对数据操作行为进行区分,并进行后续处理;S4、获取分布式消息队列中待消费的数据变更信息;S5、根据数据变更信息,获取其涉及在MongoDB的元数据最新版本信息:S6、根据MongoDB元数据信息和消息队列数据,实时转换构造Kudu的DML变更数据,并执行Kudu数据更新。本发明实现了关系型数据库MySQL与分布式列式数据库Kudu之间的数据实时同步问题,支持DML和DDL的数据操作变更,可维护不同历史版本的元数据结构信息。 | ||
搜索关键词: | 基于 mongodb 数据管理 数据源 同步 方法 系统 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广东粤财金融云科技股份有限公司,未经广东粤财金融云科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202010616235.9/,转载请声明来源钻瓜专利网。