[发明专利]应用于分布式文件系统的日志重演方法、装置及终端有效

专利信息
申请号: 201710109052.6 申请日: 2017-02-27
公开(公告)号: CN106919679B 公开(公告)日: 2019-12-13
发明(设计)人: 张震;周应超 申请(专利权)人: 北京小米移动软件有限公司
主分类号: G06F16/182 分类号: G06F16/182;G06F16/18
代理公司: 11205 北京同立钧成知识产权代理有限公司 代理人: 杨文娟;刘芳
地址: 100085 北京市海淀区清河*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 应用于 分布式 文件系统 日志 重演 方法 装置 终端
【说明书】:

本公开是关于一种应用于分布式文件系统的日志重演方法、装置及终端,其中,该方法包括:根据编辑日志中各记录的文件标识,将各记录分为至少一类记录,其中,每一类记录为具有依赖关系的记录;根据划分出的记录的类数,确定用于日志重演的线程数量;采用确定出的线程数量的各线程,对与各线程一一对应的各类记录进行日志重演。从而可以依据编辑日志中的各记录的文件路径前缀,对各记录进行分类,可以保证每一类记录中的各记录的依赖关系;进而可以采用多个线程并发的重演每个记录类别里头的纪录,加快日志重演的速度,可以保证缩短分布式文件系统不可用的时间;并且,编辑日志中的各记录中的时序关系也没有被打破。

技术领域

本公开涉及分布式文件处理技术领域,尤其涉及应用于分布式文件系统的日志重演方法、装置及终端。

背景技术

分布式文件系统一般通过事务机制来保证文件系统元数据的一致性。该机制通常使用journal的方式实现,即对文件系统的元数据的修改操作,先记录到一个编辑日志(edit log)里头,然后再进行实际(in-place)的元数据修改操作。这样可以保证任何一个对文件系统的元数据的修改要么全部完成要么什么都不做,从而就保证了文件系统元数据之间的一致性。在系统宕机,例如掉电、软件错误等等,之后后重启的过程中,编辑日志中存在中针对各中文件系统操作的记录,需要对那些存在于编辑日志中但并没有做或者只做了一部分实际修改的记录重新进行in-place更新(re-do log),这个过程叫做文件系统的恢复,即日志重演(log replay)。

相关技术中,在编辑日志中各记录之间往往有依赖关系。比如编辑日志中具有有这样四条记录:(1)创建文件/tmp/file1;(2)为文件/user/xyz/file分配一个数据块;(3)修改文件/tmp/file1的读写权限;(4)设置文件/user/xyz/file的长度和最后修改时间。这四个记录中,记录3依赖于记录1,记录4依赖于记录2,就是说记录3记录4必须等到记录1记录2的in-place更新完成之后才能做它们自身的in-place更新。从而现有技术中,都采用单线程的方式来完成日志重演,即采用单线程针对各项记录依次进行in-place更新,完成日志重演。

然而相关技术中,单线程对各项记录依次进行in-place更新,完成日志重演的方式,由于是一项项的一次对各记录进行in-place更新,会导致日志重演的速度很慢,日志重演的过程较长,会导致分布式文件系统不可用的时间变长。

发明内容

为克服相关技术中存在的问题,本公开提供一种应用于分布式文件系统的日志重演方法、装置及终端,用于解决现有技术中单线程对各项记录依次进行in-place更新,完成日志重演的方式,由于是一项项的一次对各记录进行in-place更新,会导致日志重演的速度很慢,日志重演的过程较长,会导致分布式文件系统不可用的时间变长的问题。

根据本公开实施例的第一方面,提供一种应用于分布式文件系统的日志重演方法,包括:

根据编辑日志中各记录的文件标识,将各记录分为至少一类记录,其中,每一类记录为具有依赖关系的记录;

根据划分出的记录的类数,确定用于日志重演的线程数量;

采用确定出的线程数量的各线程,对与各线程一一对应的各类记录进行日志重演。

进一步地,所述根据编辑日志中各记录的文件标识,将各记录分为至少一类记录,包括:

根据所述编辑日志中的各记录,确定所述编辑日志中的各同步点;

将相邻的同步点之间的各记录,确定为同时处理的各记录;

根据确定为同时处理的各记录的文件标识,将确定为同时处理的各记录分为至少一类记录。

进一步地,所述根据划分出的记录的类数,确定用于日志重演的线程数量,包括:

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京小米移动软件有限公司,未经北京小米移动软件有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201710109052.6/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top