[发明专利]数据迁移方法及装置在审
申请号: | 202110783254.5 | 申请日: | 2021-07-12 |
公开(公告)号: | CN113448948A | 公开(公告)日: | 2021-09-28 |
发明(设计)人: | 杨毅刚;杨小芳;刘楠楠 | 申请(专利权)人: | 中国银行股份有限公司 |
主分类号: | G06F16/21 | 分类号: | G06F16/21;G06F16/27 |
代理公司: | 北京三友知识产权代理有限公司 11127 | 代理人: | 王天尧;谷敬丽 |
地址: | 100818 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 迁移 方法 装置 | ||
本发明公开了一种数据迁移方法及装置,涉及分布式技术领域,该方法包括:读取预先配置的数据迁移规则,其中,数据迁移规则包括:数据表垂直拆分规则和数据表水平拆分规则;根据数据表垂直拆分规则对源数据库的源数据表进行垂直拆分处理;根据数据表水平拆分规则对源数据库的数据表进行水平拆分处理;将垂直拆分处理后的数据和水平拆分处理后的数据,存储到目标数据库的多个目标数据表中。本发明能够实现数据拆分、迁移的自动化处理,提高数据迁移效率。
技术领域
本发明涉及分布式技术领域,尤其涉及一种数据迁移方法及装置。
背景技术
本部分旨在为权利要求书中陈述的本发明实施例提供背景或上下文。此处的描述不因为包括在本部分中就承认是现有技术。
随着分布式系统的崛起,商业银行积极探索进行主机系统的下移。在主机系统中,客户数据存储于大型集中式数据库,而在分布式系统中,为了达到高扩展、高可用的目的,客户数据一般存储于分布式数据库中,因而,当进行主机系统下移时,需要将集中式数据库中的客户数据迁移到分布式数据库中。
因受限于分布式数据库的系统架构,每个分布式数据库实例的存储容量与处理能力是有限的,在进行数据迁移时,必然面临数据拆分问题。
当集中式数据库中数千张表按照多维度进行垂直拆分和水平拆分时,一个来自集中式数据库的源数据可能分配到的目的地(分布式数据库中某个实例的某个分表的某个目的字段)的数量将是指数级的,例如,亿级的客户数据在分布式数据库系统中,可能需要几十个甚至上百个数据库实例才可以支撑,对这些数据进行人工迁移,存在难度大、效率低的问题。
发明内容
本发明实施例中提供了一种数据迁移方法,用以解决现有技术依靠人工方式将集中式数据库中的数据迁移到分布式数据库时存在数据拆分工作难度大、效率低的技术问题,该方法包括:读取预先配置的数据迁移规则,其中,数据迁移规则包括:数据表垂直拆分规则和数据表水平拆分规则;根据数据表垂直拆分规则对源数据库的源数据表进行垂直拆分处理;根据数据表水平拆分规则对源数据库的数据表进行水平拆分处理;将垂直拆分处理后的数据和水平拆分处理后的数据,存储到目标数据库的多个目标数据表中。
本发明实施例中还提供了一种数据迁移装置,用以解决现有技术依靠人工方式将集中式数据库中的数据迁移到分布式数据库时存在数据拆分工作难度大、效率低的技术问题,该装置包括:数据迁移规则读取模块,用于读取预先配置的数据迁移规则,其中,数据迁移规则包括:数据表垂直拆分规则和数据表水平拆分规则;数据拆分处理模块,用于根据数据表垂直拆分规则对源数据库的源数据表进行垂直拆分处理;根据数据表水平拆分规则对源数据库的数据表进行水平拆分处理;数据存储模块,用于将垂直拆分处理后的数据和水平拆分处理后的数据,存储到目标数据库的多个目标数据表中。
本发明实施例中还提供了一种计算机设备,用以解决现有技术依靠人工方式将集中式数据库中的数据迁移到分布式数据库时存在数据拆分工作难度大、效率低的技术问题,该计算机设备包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,处理器执行计算机程序时实现上述数据迁移方法。
本发明实施例中还提供了一种计算机可读存储介质,用以解决现有技术依靠人工方式将集中式数据库中的数据迁移到分布式数据库时存在数据拆分工作难度大、效率低的技术问题,该计算机可读存储介质存储有执行上述数据迁移方法的计算机程序。
本发明实施例中提供的数据迁移方法、装置、计算机设备及计算机可读存储介质,通过预先配置数据迁移规则,进而根据配置好的数据表垂直拆分规则对源数据库的源数据表进行数据拆分处理,最后将数据拆分处理后的数据存储到目标数据库的多个目标数据表中,能够实现数据拆分、迁移的自动化处理,提高数据迁移效率。将本发明实施例中提供的数据迁移方法应用于集中式系统向分布式系统的数据迁移,能够快速将集中式系统的数据迁移到分布式系统中。
附图说明
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国银行股份有限公司,未经中国银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110783254.5/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置