[发明专利]针对分布式文件系统的元数据预取系统及方法在审
| 申请号: | 202110859541.X | 申请日: | 2021-07-28 |
| 公开(公告)号: | CN113688113A | 公开(公告)日: | 2021-11-23 |
| 发明(设计)人: | 张静逸;江波;杜欣军;张浩博;雷旸;王梦童;于楠 | 申请(专利权)人: | 华东计算技术研究所(中国电子科技集团公司第三十二研究所) |
| 主分类号: | G06F16/182 | 分类号: | G06F16/182;G06F16/14 |
| 代理公司: | 上海段和段律师事务所 31334 | 代理人: | 李佳俊;郭国中 |
| 地址: | 201800 *** | 国省代码: | 上海;31 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 针对 分布式 文件系统 数据 系统 方法 | ||
1.一种针对分布式文件系统的元数据预取系统,其特征在于,包括功能层级框架,所述功能层级框架还包括客户端层面和元数据服务器层面;
所述客户端层面包括客户端缓存层,所述客户端缓存层负责提取、更新和同步文件相关特征,提供对文件相关特征操作的支持;
所述元数据服务器层面包括元数据服务器缓存层,所述元数据服务器缓存层负责存储和同步文件相关特征,执行文件元数据操作。
2.根据权利要求1所述的针对分布式文件系统的元数据预取系统,其特征在于,该系统还包括系统总体模块,所述系统总体模块包括客户端和元数据服务器;由应用程序发起的元数据的读请求操作通过分布式文件系统到达客户端,客户端在本地元数据缓存空间中搜索目标文件的元数据检查所需的元数据是否存在于客户端的本地缓存中;若命中本地缓存,则根据找到的文件元数据进行相应的处理操作并响应应用程序的请求;否则客户端将会通过网络把元数据的读请求操作发送到其管理的元数据服务器查找所需的元数据;元数据服务器包括预取模块,元数据服务器中的预取模块开始在元数据缓存中搜索并收集目标文件和与目标文件关联的文件的元数据信息,然后元数据服务器将目标文件和与目标文件关联的文件的元数据信息整合在响应消息中并发送给客户端,客户端在其本地缓存中处理带有响应消息的目标文件和关联文件的后续元数据请求。
3.根据权利要求2所述的针对分布式文件系统的元数据预取系统,其特征在于,所述系统总体模块还包括:当应用程序发起元数据的写操作时,所述客户端包括库,所述库包括语法分析模块,会触发客户端的库中的语法分析模块提取文件所存在的文件相关特征;提取出的文件相关特征先缓存在分布式文件系统客户端中的元数据缓存中,并伴随分布式文件系统原有的元数据同步I/O,将新增的文件相关特征同步到元数据服务器,得到新的元数据版本;当元数据服务器收到元数据同步请求后,会在元数据缓存中用新的元数据版本替换旧的元数据版本。
4.根据权利要求2所述的针对分布式文件系统的元数据预取系统,其特征在于,所述客户端缓存层包括实时提取文件特征模块,所述实时提取文件特征模块:首先获取包括文件访问序列、目录和文件路径名的文件元数据信息,通过客户端语法分析模块中语法分析机制的模式匹配算法在文件元数据部分寻找目标格式的数据内容从而确定与目标格式的数据内容关联的文件信息;基于用户给定的目标关键字从文件访问序列、目录和文件路径名的信息中提取文件相关特征。
5.根据权利要求2所述的针对分布式文件系统的元数据预取系统,其特征在于,所述客户端缓存层还包括文件特征更新模块,所述文件特征更新模块:通过在客户端检查文件元数据扩展属性中文件相关特征的偏移量与新增数据是否存在重叠现象,来判断文件相关特征是否存在被覆盖的情况;如果存在被覆盖现象,则将该部分文件相关特征视为无效,直接删除这些无效的文件相关特征完成更新操作。
6.根据权利要求5所述的针对分布式文件系统的元数据预取系统,其特征在于,所述文件特征更新模块还包括:当出现文件删除操作时,分布式文件系统会采用延迟更新的方式,并不会立即删除文件相关特征信息,而是在文件相关特征的相关文件再一次被访问时,删除被访问文件元数据扩展属性中关于已被清除文件的文件相关特征信息。
7.根据权利要求2所述的针对分布式文件系统的元数据预取系统,其特征在于,所述客户端缓存层还包括强一致性同步控制模块,所述强一致性同步控制模块:采用基于分布式存储的强一致性策略,通过同时和同文件分配权限的方式提供强一致性,客户端也会定期的清理自身的元数据缓存。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华东计算技术研究所(中国电子科技集团公司第三十二研究所),未经华东计算技术研究所(中国电子科技集团公司第三十二研究所)许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110859541.X/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





