[发明专利]本地文件系统实现方法、装置、设备及存储介质在审
申请号: | 202111117598.9 | 申请日: | 2021-09-23 |
公开(公告)号: | CN113821487A | 公开(公告)日: | 2021-12-21 |
发明(设计)人: | 徐文松;朱子凡;过晓春 | 申请(专利权)人: | 中国联合网络通信集团有限公司;联通云数据有限公司 |
主分类号: | G06F16/172 | 分类号: | G06F16/172;G06F16/17;G06F16/13;G06F16/18 |
代理公司: | 北京同立钧成知识产权代理有限公司 11205 | 代理人: | 杨泽;刘芳 |
地址: | 100033 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 本地 文件系统 实现 方法 装置 设备 存储 介质 | ||
本申请提供一种本地文件系统实现方法、装置、设备及存储介质,该方法将本地日志文件系统作为后端对象存储,在写入数据时,将数据写入本地日志文件系统后异步写入对象存储,使得本地文件系统的写入性能得到较大提升,并在访问文件时,首先从本地日志文件系统读取数据,使得本地文件系统的访问性能得到较大提升。另外,本申请由于在写文件时,将数据写到本地日志文件系统,不会写数据到对象存储,而是由后台将数据推送到对象存储,这样,在对象存储不可用时,数据依然可以继续写入本地日志文件系统,解决现有借助用户空间文件系统框架将对象存储系统实现为本地文件系统,对对象存储的依赖与耦合太高的问题,提高本地文件系统的稳定性和可用性。
技术领域
本申请涉及计算机技术领域,尤其涉及一种本地文件系统实现方法、装置、设备及存储介质。
背景技术
随着互联网的快速发展,网络上产生和存储的数据也迎来了爆发式的增长。面对如此庞大的数据量,传统存储区域网络(Storage Area Network,SAN)等块存储和网络附属存储(Network Attached Storage,NAS)等文件存储系统,由于仅具备千万亿字节(Petabyte,PB)级扩展能力,已经显得有些无能为力。在这种情况下,对象存储服务应运而生。对象存储服务综合了SAN和NAS的优点,同时具有SAN的高速直接访问和NAS的数据共享等优势,提供了高可用性、跨平台性及安全性的数据共享存储体系结构。从原理上看,对象存储服务一般通过网络服务协议来实现数据的读/写和存储资源的访问,并采用扁平化结构来管理所有数据。
用户空间文件系统(Filesystem In Userspace,FUSE)是一种Unix/Linux操作系统提供的机制,这种机制使得非特权用户无需理解Unix/Linux内核的文件系统实现、无需编辑和编译内核的源代码就可以实现自己的文件系统。目前,FUSE已经被广泛用于编写开发各种文件系统,与传统的文件系统不同,FUSE并不一定真正地读写磁盘,它提供到已存在的文件系统或存储设备的转换,使得已存在的文件系统或存储设备上的数据以文件和目录的形式提供给用户或应用。
目前,借助FUSE文件系统框架将对象存储系统实现为本地文件系统已经有一些成熟稳定的实现案例,如基于FUSE的文件系统(S3 FUSE,s3fs)。s3fs为了保证本地文件系统与对象存储的数据实时一致性,写入数据时,需要同步写入到对象存储中,写入性能极差,而且访问文件时,需要从对象存储中获取,访问性能极差,另外,在对象存储不可用时,本地文件系统即不可用,对对象存储的依赖与耦合太高。
发明内容
本申请提供一种本地文件系统实现方法、装置、设备及存储介质,解决现有借助FUSE框架将对象存储系统实现为本地文件系统,出现的写入性能极差、访问性能极差,以及对对象存储的依赖与耦合太高的问题。
第一方面,本申请提供一种本地文件系统实现方法,所述本地文件系统包括本地日志文件系统和对象存储系统,所述方法应用于FUSE,所述方法包括:
在写文件时,判断所述本地日志文件系统是否满足预设写入条件;
若所述本地日志文件系统满足所述预设写入条件,则将待写入数据写入所述本地日志文件系统,基于所述待写入数据更新数据库中的元数据,并在关闭文件时,触发后台线程,以将所述待写入数据同步到所述对象存储系统;
在读文件时,判断所述本地日志文件系统是否满足预设读取条件;
若所述本地日志文件系统满足所述预设读取条件,则从所述本地日志文件系统读取待读取的数据。
在一种可能的设计中,所述判断所述本地日志文件系统是否满足预设写入条件,包括:
获取本地磁盘剩余空间,并判断所述剩余空间是否小于预设空间阈值;
若所述剩余空间大于或等于所述预设空间阈值,则判断本地磁盘使用率是否大于预设使用率阈值;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国联合网络通信集团有限公司;联通云数据有限公司,未经中国联合网络通信集团有限公司;联通云数据有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111117598.9/2.html,转载请声明来源钻瓜专利网。