[发明专利]监测分布式文件系统IO时延的方法、装置及存储介质有效
申请号: | 201910367648.5 | 申请日: | 2019-05-05 |
公开(公告)号: | CN110287158B | 公开(公告)日: | 2023-05-26 |
发明(设计)人: | 卢洪棚 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F16/17 | 分类号: | G06F16/17;G06F16/182 |
代理公司: | 北京鸿元知识产权代理有限公司 11327 | 代理人: | 袁文婷;王迎 |
地址: | 518033 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 监测 分布式 文件系统 io 方法 装置 存储 介质 | ||
本发明提供一种监测分布式文件系统IO时延的方法、装置及存储介质,涉及云存储技术领域中的分布式文件系统,其中的方法包括以下步骤:S110、采集io的时延实时数据;S120、根据采集的io的时延实时数据,得到io时延和io大小之间的关系;S130、根据所确定的io时延和io大小之间的关系,获取io理论时延值;S140、计算io=4kB的平均时延值;将平均时延值与io=4kB的理论时延值相比较,若平均时延值大于理论时延值,则判定分布式文件系统的压力过大。利用上述发明能够在保证时延统计精度的前提下减少数据量,为分析和监控当前系统的io提供有效的依据。
技术领域
本发明涉及云存储技术领域中的分布式文件系统,更为具体地,涉及一种监测分布式文件系统IO(Input/Output)时延的方法、电子装置及存储介质。
背景技术
在这个信息爆炸的时代中,单纯通过硬盘来扩展计算机文件系统的存储容量的方式已无法满足,云存储的分布式文件系统的出现为解决存储问题提供了可能;为通过并行的访问提高数据io的性能(I/O输入/输出Input/Output),分布式文件系统将数据条带化的存放在各个数据服务器的不同磁盘中。但是,如果磁盘的业务压力过大,将导致分布式文件系统io性能的明显降低,通过io时延来判断磁盘的业务压力是常用的做法。在分布式文件系统中,io时延的大小是一个很重要的数据,它可以很直观的告诉运维人员和开发人员当前系统运行的情况,为系统分析性能提供数据依据。
但是,在实际应用中,存在以下问题:
首先,要想监控io的时延,就必须记录每个io所消耗的时间,但是实际的业务中,io大小总是不确定的,系统中每时每刻都在产生不同大小的io,要想把每个不同大小的io的时延都记录下来是不大现实的,因为这样记录的数据量会过于大,在实际生产中并不适用。
其次,现有的分布式文件系统(ceph)的io时延统计是通过笼统的累加io总时间除以io个数获得平均io时延,并不区分io的大小;比如一个大小为4kB的io时延和一个大小为4mB的io时延,用笼统的累加求平均的方法并不能很直观的体现当前系统的io时延情况,一个4 kB的io消耗了2ms, 4mB的io消耗量100ms,若使用现有技术的方法进行计算,平均时延为2+100/2=51ms,若以51ms来判断4kB及4MB的io时延,51ms对于4kB的io而言是极不合理的,而51ms对于4mB的io而言可能又是合理的。
综上所述,现有技术的获得平均io时延的方法不能为分析和监控当前系统的io时延提供有效的依据。所以,亟需一种方便的、精准的监测io时延的方法。
发明内容
鉴于上述问题,本发明的目的是提供一种监测分布式文件系统IO时延的方法、装置及存储介质。
本发明提供的监测分布式文件系统IO时延的方法,包括以下步骤:
S110、采集io的时延实时数据;
S120、根据采集的io的时延实时数据,确定io时延和io大小之间的关系;
S130、根据所确定的io时延和io大小之间的关系,获取io理论时延值;
S140、计算io=4kB的平均时延值;将平均时延值与io=4kB的理论时延值相比较,若平均时延值大于理论时延值,则判定分布式文件系统的压力过大。
进一步,优选的方法为,所述步骤S120中的确定io时延和io大小之间的关系所采用的的公式为:T = kx + b ,其中T是io时延,x是io大小,k是线性系数,b是常量;且,根据系数k的不同,将io大小划分为(0, 64kB), [64kB, 256kB), [256kB,∞)三个范围段。
进一步,优选的方法为,所述步骤S140中获取io=4kB的平均时延所采用的的公式为:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910367648.5/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种文件处理方法、文件读取方法及装置
- 下一篇:一种文件处理方法及装置