[发明专利]一种写操作控制方法、系统、装置及计算机可读存储介质有效
申请号: | 201810022648.7 | 申请日: | 2018-01-10 |
公开(公告)号: | CN108255429B | 公开(公告)日: | 2021-07-02 |
发明(设计)人: | 孟祥瑞 | 申请(专利权)人: | 郑州云海信息技术有限公司 |
主分类号: | G06F3/06 | 分类号: | G06F3/06 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 罗满 |
地址: | 450018 河南省郑州市*** | 国省代码: | 河南;41 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 操作 控制 方法 系统 装置 计算机 可读 存储 介质 | ||
本发明公开了一种写操作控制方法、系统、装置及计算机存储介质,应用于分布式存储系统,包括:在接收到写请求时,调用写线程将待写入数据按照条带方式分割成原始数据块,并根据条带对应的数据对象服务OSD信息将原始数据块发送到OSD节点上下盘;调用后台线程根据待写入数据生成校验数据块,并发送校验数据块到对应的OSD节点上下盘。本申请中每次写数据时,调用写线程只把待写入数据下盘,然后调用后台线程异步计算出校验数据块,再单独下盘。后台线程不工作在业务下盘的IO路径上,减少了业务IO路径的下盘数据量,这样就降低了业务每次写数据的时延,使得分布式存储系统能提供更高的性能,支撑更多路数的视频流业务,满足客户需求。
技术领域
本发明涉及分布式文件系统领域,特别是涉及一种写操作控制方法、系统、装置及计算机可读存储介质。
背景技术
分布式存储系统中,通常采用EC(Erasure Code,纠删码)技术来实现数据的冗余可靠性,这种机制保障了在不超过冗余个数的硬盘出现故障时,数据是可恢复的。具体地,Client端每次写数据时,通过EC技术计算出原始数据块对应的校验数据块,然后同时把原始数据块和校验数据块一起发送至OSD(Object-based Storage,数据对象服务)端下盘。校验数据块的下盘占用了业务下盘的IO(Input/Output,输入/输出)路径,使得业务IO路径的下盘数据量较多,从而导致写请求的时延较长,业务的吞吐量性能较低,难以支持成百上千路的视频流写入,可能出现业务阻塞的问题。
因此如何提供一种解决上述技术问题的方案是本领域技术人员目前需要解决的问题。
发明内容
本发明的目的是提供一种写操作控制方法、系统、装置及计算机可读存储介质,每次写数据时,调用写线程只把待写入数据下盘,然后调用后台线程异步计算出校验数据块,再单独下盘。后台线程不工作在业务下盘的IO路径上,减少了业务IO路径的下盘数据量,降低了业务每次写数据的时延,使得分布式存储系统能提供更高的性能,支撑更多路数的视频流业务,满足客户需求。
为解决上述技术问题,本发明提供了一种写操作控制方法,应用于分布式存储系统,包括:
在接收到写请求时,调用写线程将待写入数据按照条带方式分割成原始数据块,并根据所述条带对应的数据对象服务OSD信息将所述原始数据块发送到所述OSD节点上下盘;
调用后台线程根据所述待写入数据生成校验数据块,并发送所述校验数据块到对应的OSD节点上下盘。
优选地,所述根据所述待写入数据生成校验数据块的过程具体为:
判断所述待写入数据是否是首次写;
如果是首次写,则根据当前所述待写入数据直接生成校验数据块;
如果是修改写,则判断所述修改写是否是整条带覆盖写,当是所述整条带覆盖写时,根据当前所述待写入数据直接生成校验数据块,当不是所述整条带覆盖写时,合并所述待写入数据和原有数据,根据合并后的数据生成校验数据块。
优选地,所述将所述原始数据块发送到所述OSD节点上下盘之后,该方法还包括:
发送用于指示写入成功的返回结果至上层业务。
优选地,所述发送所述校验数据块到对应的OSD节点上下盘之后,该方法还包括:
释放缓存中保存的所述待写入的数据。
为解决上述技术问题,本发明还提供了一种写操作控制系统,应用于分布式存储系统,包括:
第一发送模块,用于在接收到写请求时,调用写线程将待写入数据按照条带方式分割成原始数据块,并根据所述条带对应的数据对象服务OSD信息将所述原始数据块发送到所述OSD节点上下盘;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于郑州云海信息技术有限公司,未经郑州云海信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810022648.7/2.html,转载请声明来源钻瓜专利网。