[发明专利]数据存储的方法、控制器和系统有效
申请号: | 201711443996.3 | 申请日: | 2017-12-27 |
公开(公告)号: | CN110019092B | 公开(公告)日: | 2021-07-09 |
发明(设计)人: | 徐振鑫 | 申请(专利权)人: | 华为技术有限公司 |
主分类号: | G06F16/182 | 分类号: | G06F16/182;G06F16/11;G06F16/27;G06F11/14 |
代理公司: | 北京龙双利达知识产权代理有限公司 11329 | 代理人: | 范华英;毛威 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 存储 方法 控制器 系统 | ||
本申请提供了一种数据存储的方法,使得主集群的控制器不需要进行合并操作,避免了在执行合并的过程中带来很大的带宽压力以及IO压力,提高了系统性能。该方法包括:接收第二控制器发送的合并后的文件、第一序列号和第一标识信息,第一序列号为合并后的文件中的第一数据的序列号,第一标识信息用于指示合并后的文件在备集群内的区域号为第一区域号;根据第一序列号,确定合并后文件中最后一个写入的数据的序列号;比较合并后的文件中最后一个写入的数据的序列号和未合并的文件中最后一个写入的数据的序列号;当未合并的文件中最后一个写入的数据的序列号小于该合并后的文件中最后一个写入的数据的序列号时,删除未合并的文件;存储合并后的文件。
技术领域
本申请涉及存储领域,并且更具体地,涉及一种数据存储的方法、控制器和系统。
背景技术
在跨可用区域(Availability Zone,AZ)双活架构下,主集群对用户设备提供读写服务,备集群只用于备份主集群的数据,以用于在主集群发生故障丢失数据时,向主集群发送备份的数据从而恢复数据,备集群不对用户设备提供读写服务。在主集群和备集群之间,通过同步数据预写式日志(Write-Ahead Logging,WAL)来实现数据同步。主备集群均采用分布式存储系统(Hadoop Database,HBase),主备集群根据数据WAL分别生成各自的meta和HFile,并且分别执行HFile的合并compaction操作。由于在执行compaction的过程中会带来很大的带宽压力以及短时间的IO压力和计算压力,导致HBase性能大幅下降。主集群对用户设备提供读写服务,但是主集群在执行compaction的过程中会带来很大的带宽压力以及短时间的IO压力,并且compaction的执行会消耗计算能力,导致HBase性能大幅下降,影响了用户体验。
发明内容
本申请提供一种数据存储的方法、控制器和系统,主集群的控制器接收备集群的控制器发送的合并后的文件,主集群的控制器删除原来存储在主集群的控制器上的未合并的文件,该未合并的文件已包括备集群的控制器发送的合并后的文件,主集群的控制器不需要进行的合并操作,因此,避免了在执行compaction的过程中带来很大的带宽压力以及短时间的IO压力,改善了用户体验,提升了系统性能。
第一方面,提供了一种数据存储的方法,该方法应用于集群系统,该系统包括主集群和备集群,该方法由第一控制器执行,该第一控制器为该主集群的控制器,第二控制器为该备集群的控制器,该方法包括:
接收该第二控制器发送的合并后的文件、第一序列号和第一标识信息,该第一序列号为该合并后的文件中的第一数据的序列号,该第一标识信息用于指示该合并后的文件在该备集群内的区域号为第一区域号;根据该第一序列号,确定该合并后的文件中最后一个写入的数据的序列号;比较该合并后的文件中最后一个写入的数据的序列号和未合并的文件中最后一个写入的数据的序列号,该未合并的文件为该主集群内区域号是该第一区域号的文件;当该未合并的文件中最后一个写入的数据的序列号小于该合并后的文件中最后一个写入的数据的序列号时,删除该未合并的文件;在该主集群内,存储该合并后的文件。
因此,该主集群的第一控制器在接收到该备集群的第二控制器发送的合并后的文件、第一序列号和第一标识信息后,根据该第一序列号,确定该合并后的文件中最后一个写入的数据的序列号,再比较该合并后的文件中最后一个写入的数据的序列号和未合并的文件中最后一个写入的数据的序列号,当该未合并的文件中最后一个写入的数据的序列号小于该合并后的文件中最后一个写入的数据的序列号时,删除该未合并的文件,在该主集群内,存储该合并后的文件。该第一控制器不需要进行的合并操作,因此,避免了在执行compaction的过程中带来很大的带宽压力以及短时间的IO压力和计算能力的消耗,进而提高了主集群的性能,改善了用户体验。
结合第一方面,在第一方面的某些实现方式中,该方法还包括:在该主集群内,将该合并后的文件的区域号设置为该第一区域号。
此时,通过将该合并后的文件的区域号设置为该第一区域号,建立起第一区域与该合并后的文件的关联,以便于根据该第一区域号查找文件。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司,未经华为技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711443996.3/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种异地数据协同系统
- 下一篇:数据写入方法、装置、设备及介质
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置