[发明专利]基于报文解析的数据复制链路优化方法及装置有效
申请号: | 201910698794.6 | 申请日: | 2019-07-31 |
公开(公告)号: | CN110417892B | 公开(公告)日: | 2021-08-27 |
发明(设计)人: | 钟小威;孟江;李奇伟 | 申请(专利权)人: | 中国工商银行股份有限公司 |
主分类号: | H04L29/08 | 分类号: | H04L29/08;H04L12/24 |
代理公司: | 北京三友知识产权代理有限公司 11127 | 代理人: | 孙乳笋;王涛 |
地址: | 100140 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 报文 解析 数据 复制 优化 方法 装置 | ||
1.一种基于报文解析的数据复制链路优化方法,其特征在于,包括:
获取主机端发送的MQ报文,并将所述MQ报文放入缓存,其中,所述MQ报文包括:消息ID以及报文的字段偏移量信息;
根据所述消息ID确定所述MQ报文对应的主机表,并获取所述主机表对应的预设的复制预定参数,其中,所述复制预定参数包括:复制的字段数据类型、复制的字段名称以及复制的字段长度;
根据所述复制预定参数以及所述字段偏移量信息从所述MQ报文中提取字段数据,并组合成平台端报文,其中,所述平台端报文包含所述MQ报文对应的主机表的表名信息;
将所述平台端报文发送到平台分布式消息引擎,以使平台端的数据库从所述平台分布式消息引擎获取相应的平台端报文。
2.根据权利要求1所述的基于报文解析的数据复制链路优化方法,其特征在于,所述将所述平台端报文发送到平台分布式消息引擎,具体包括:
通过生产者线程将平台端报文发送到所述平台分布式消息引擎中的对应的消息引擎集群,其中,所述生产者线程配置有该消息引擎集群的IP、端口信息以及设置的该消息引擎集群对应的表名信息。
3.根据权利要求1所述的基于报文解析的数据复制链路优化方法,其特征在于,所述将所述平台端报文发送到平台分布式消息引擎,具体包括:
为所述平台端报文配置ID标识信息;
在发送成功后,将所述ID标识信息添加到成功处理列表中。
4.根据权利要求3所述的基于报文解析的数据复制链路优化方法,其特征在于,还包括:
将与所述成功处理列表中的ID标识信息对应的平台端报文相对应的MQ报文从缓存中清除。
5.根据权利要求1所述的基于报文解析的数据复制链路优化方法,其特征在于,还包括:
通过消费者线程将平台端报文从所述平台分布式消息引擎中的目标消息引擎集群中拉取到平台端的数据库,其中,所述消费者线程配置有该目标消息引擎集群的IP、端口信息以及设置的拉取的平台端报文的表名信息。
6.根据权利要求2所述的基于报文解析的数据复制链路优化方法,其特征在于,所述生产者线程还配置有用户设置的报文发送频率、每次发送的报文大小、发送成功确认信息、发送失败重发次数、报文储存时间、报文压缩方式中的至少一种或任意组合。
7.根据权利要求2所述的基于报文解析的数据复制链路优化方法,其特征在于,所述通过生产者线程将平台端报文发送到所述平台分布式消息引擎中的对应的消息引擎集群,包括:
所述生产者线程生成所述平台端报文的至少一个副本,并将该副本发送到所述平台分布式消息引擎中的对应的消息引擎集群。
8.一种基于报文解析的数据复制链路优化装置,其特征在于,包括:
MQ报文预读单元,用于获取主机端发送的MQ报文,并将所述MQ报文放入缓存,其中,所述MQ报文包括:消息ID以及报文的字段偏移量信息;
复制预定参数确定单元,用于根据所述消息ID确定所述MQ报文对应的主机表,并获取所述主机表对应的预设的复制预定参数,其中,所述复制预定参数包括:复制的字段数据类型、复制的字段名称以及复制的字段长度;
报文解析单元,用于根据所述复制预定参数以及所述字段偏移量信息从所述MQ报文中提取字段数据,并组合成平台端报文,其中,所述平台端报文包含所述MQ报文对应的主机表的表名信息;
报文发送单元,用于将所述平台端报文发送到平台分布式消息引擎,以使平台端的数据库从所述平台分布式消息引擎获取相应的平台端报文。
9.根据权利要求8所述的基于报文解析的数据复制链路优化装置,其特征在于,所述报文发送单元,包括:
生产者模块,用于通过生产者线程将平台端报文发送到所述平台分布式消息引擎中的对应的消息引擎集群,其中,所述生产者线程配置有该消息引擎集群的IP、端口信息以及设置的该消息引擎集群对应的表名信息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国工商银行股份有限公司,未经中国工商银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910698794.6/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置