[发明专利]一种高可靠性分布式海量数据传输方法及工具在审
申请号: | 202110649243.8 | 申请日: | 2021-06-02 |
公开(公告)号: | CN113377726A | 公开(公告)日: | 2021-09-10 |
发明(设计)人: | 刘天智;张晨光;姜丽芳 | 申请(专利权)人: | 浪潮软件股份有限公司 |
主分类号: | G06F16/174 | 分类号: | G06F16/174;G06F16/182;H04L29/08;G06F9/38 |
代理公司: | 济南信达专利事务所有限公司 37100 | 代理人: | 冯春连 |
地址: | 271000 山东省*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开一种高可靠性分布式海量数据传输方法,涉及数据传输技术领域,其实现基于分布式系统A和分布式系统B,其实现过程包括:分布式系统A启动logstash,通过定时任务下的多线程任务同时采集多个数据表的数据,并生成统一格式的数据文件;分布式系统A压缩所有数据文件,并在压缩完毕后通知分布式系统B;分布式系统B根据分布式系统A的通知消息获取压缩的数据文件;分布式系统B通过多线程并发的方式,解压数据文件,并批量插入到相应数据表中。本发明还公开一种数据传输工具,其包括部署于分布式系统的采集生成模块、压缩通知模块、获取文件模块和解压插入模块,通过与前述方法相结合,能够提高数据传输的效率、安全性、稳定性、便捷性。 | ||
搜索关键词: | 一种 可靠性 分布式 海量 数据传输 方法 工具 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浪潮软件股份有限公司,未经浪潮软件股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202110649243.8/,转载请声明来源钻瓜专利网。
- 上一篇:一种金红石矿高效资源化利用方法
- 下一篇:视频编码方法、装置、设备和介质