[发明专利]一种数据同步方法、装置、存储介质和服务器在审
| 申请号: | 201910422626.4 | 申请日: | 2019-05-21 |
| 公开(公告)号: | CN110232095A | 公开(公告)日: | 2019-09-13 |
| 发明(设计)人: | 林堋鑫 | 申请(专利权)人: | 中国平安财产保险股份有限公司 |
| 主分类号: | G06F16/27 | 分类号: | G06F16/27;G06F16/215 |
| 代理公司: | 深圳中一专利商标事务所 44237 | 代理人: | 郭雨桐 |
| 地址: | 518000 广东省深圳市*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | 本发明涉及计算机技术领域,提出一种数据同步方法、装置、存储介质和服务器。该数据同步方法包括:从业务系统的源数据库中检测存在数据更新的源数据表;根据所述源数据表的表名从所述源数据库中查找所述源数据表的元数据;根据所述元数据构建相应的数据同步任务;当执行所述数据同步任务时,结合所述源数据表构建布隆过滤器,将大数据平台待同步的目标数据表的数据输入所述布隆过滤器,从而找出所述目标数据表中需要同步的数据;采用mapjoin工具,从所述源数据表中提取所述需要同步的数据的更新值并将所述更新值加载到内存中,然后再将内存中的所述更新值同步至所述目标数据表。通过这样设置,能够极大地减少系统的消耗,提高数据的同步效率。 | ||
| 搜索关键词: | 数据同步 同步的 布隆过滤器 存储介质 源数据库 元数据 构建 内存 服务器 更新 计算机技术领域 减少系统 数据更新 同步效率 业务系统 大数据 加载 查找 消耗 检测 | ||
【主权项】:
1.一种数据同步方法,其特征在于,包括:从业务系统的源数据库中检测存在数据更新的源数据表;根据所述源数据表的表名从所述源数据库中查找所述源数据表的元数据;根据所述元数据构建相应的数据同步任务;当执行所述数据同步任务时,结合所述源数据表构建布隆过滤器,将大数据平台待同步的目标数据表的数据输入所述布隆过滤器,从而找出所述目标数据表中需要同步的数据;采用mapjoin工具,从所述源数据表中提取所述需要同步的数据的更新值并将所述更新值加载到内存中,然后再将内存中的所述更新值同步至所述目标数据表。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国平安财产保险股份有限公司,未经中国平安财产保险股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910422626.4/,转载请声明来源钻瓜专利网。
- 上一篇:跨链交易的装置、方法及存储介质
- 下一篇:一种基于智能合约的调研方法及其设备





