[发明专利]数据迁移方法及装置、存储介质、电子设备在审
| 申请号: | 202011103107.0 | 申请日: | 2020-10-15 |
| 公开(公告)号: | CN112286905A | 公开(公告)日: | 2021-01-29 |
| 发明(设计)人: | 姚智博 | 申请(专利权)人: | 北京沃东天骏信息技术有限公司;北京京东世纪贸易有限公司 |
| 主分类号: | G06F16/21 | 分类号: | G06F16/21;G06F16/23;G06F16/245;G06F16/28 |
| 代理公司: | 北京律智知识产权代理有限公司 11438 | 代理人: | 王辉;阚梓瑄 |
| 地址: | 100176 北京市大兴区北京经济*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数据 迁移 方法 装置 存储 介质 电子设备 | ||
1.一种数据迁移方法,其特征在于,包括:
与迁移数据源、接收数据源建立通信连接;
对所述迁移数据源中的全量数据进行分片处理,得到多个数据分片;
当接收到数据迁移指令时,通过迁移集群分布式将所述多个数据分片迁移至所述接收数据源;
从所述迁移数据源中获取增量数据,根据所述增量数据的创建时间戳判断所述增量数据是否为新增数据;
当所述增量数据是新增数据时,通过所述迁移集群将所述增量数据迁移至所述接收数据源中;
当所述增量数据不是新增数据时,通过所述迁移集群使用所述增量数据替换所述接收数据源中的目标数据;其中,所述目标数据与所述增量数据的创建时间戳相同。
2.根据权利要求1所述的方法,其特征在于,所述对所述迁移数据源中的全量数据进行分片处理,得到多个数据分片,包括:
获取所述迁移数据源的初始运行时间,将当前时间与所述初始运行时间的时间跨度确定为目标时间段;
根据预设时长区间对所述目标时间段进行分片处理,得到多个时间分片;
将在各所述时间分片内、所述迁移数据源中存储的数据作为一数据分片。
3.根据权利要求1所述的方法,其特征在于,每个数据分片对应一个迁移子任务;
所述当接收到数据迁移指令时,通过迁移集群将所述多个数据分片迁移至所述接收数据源,包括:
当接收到数据迁移指令时,通过迁移集群分布式执行所述迁移子任务,以将所述多个数据分片迁移至所述接收数据源。
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
当目标数据分片对应的待迁移数据量大于数据量阈值时,将所述目标数据分片对应的迁移子任务拆分为多个目标子任务,以使得各所述目标子任务对应的待迁移数据量小于所述数据量阈值。
5.根据权利要求1所述的方法,其特征在于,所述通过所述迁移集群使用所述增量数据替换所述接收数据源中的目标数据,包括:
根据乐观锁机制比对所述增量数据与所述目标数据的更新时间戳;
当所述增量数据的更新时间戳大于所述目标数据的更新时间戳时,使用所述增量数据替换所述接收数据源中的目标数据。
6.根据权利要求1至5中任意一项所述的方法,其特征在于,在通过所述迁移集群使用所述增量数据替换所述接收数据源中的目标数据之后,所述方法还包括:
查询所述迁移数据源中存储的数据条数;
若所述数据条数大于所述接收数据源中的数据条数,则获取所述迁移数据源与所述接收数据源的差异数据;
通过所述迁移集群将所述差异数据更新至所述接收数据源中。
7.根据权利要求6所述的方法,其特征在于,所述方法还包括:
若所述数据条数等于所述接收数据源中的数据条数,则获取所述迁移数据源中所有数据的字段值,以及,获取所述接收数据源中所有数据的字段值;
比对同一数据的字段值是否一致;
对字段值不一致的所述迁移数据源中的数据进行标记;
将标记的数据更新至所述接收数据源中。
8.根据权利要求1所述的方法,其特征在于,所述方法还包括:
当数据迁移发生中断时,记录中断时间;
根据所述中断时间进行断点续传。
9.根据权利要求1所述的方法,其特征在于,所述方法还包括:
创建所述迁移数据源的第一备用服务器,以及,创建所述接收数据源的第二备用服务器;
通过所述迁移集群定时将所述迁移数据源中的数据迁移至所述第一备用服务器中;以及,
通过所述迁移集群定时将所述接收数据源中的数据迁移至所述第二备用服务器中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京沃东天骏信息技术有限公司;北京京东世纪贸易有限公司,未经北京沃东天骏信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011103107.0/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





