[发明专利]对象存储批量读取及写入方法、客户端、存储网关及介质在审
申请号: | 202110361851.9 | 申请日: | 2021-04-02 |
公开(公告)号: | CN113126920A | 公开(公告)日: | 2021-07-16 |
发明(设计)人: | 陈坚;匡浩;马四;文刘飞 | 申请(专利权)人: | 深圳市杉岩数据技术有限公司 |
主分类号: | G06F3/06 | 分类号: | G06F3/06 |
代理公司: | 深圳市六加知识产权代理有限公司 44372 | 代理人: | 孟丽平 |
地址: | 518049 广东省深圳市福田区梅*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 对象 存储 批量 读取 写入 方法 客户端 网关 介质 | ||
本发明实施例涉及一种对象存储批量读取及写入方法、客户端和存储网关,所述读取方法应用于客户端、存储网关,所述读取方法使得客户端可以从存储网关读取至少一个指定对象的指定范围的分片数据,实现批量读取,避免客户端与存储网关的多次交互;所述写入方法应用于客户端、存储网关,所述写入方法能够实现至少一个对象及分片数据的全部写入或部分写入,实现海量对象的写入,能有效降低客户端与存储网关的交互次数。本发明实施例,通过提供基于POST请求的批量读写接口,减少客户端与存储网关间的请求交互次数,提高读写效率,降低客户端资源消耗。
技术领域
本发明实施例涉及对象存储领域,尤其涉及一种对象存储批量读取及写入方法、客户端、存储网关及介质。
背景技术
对象存储(Object Storage)最早是亚马逊2006年推出的S3(Simple StorageService)。对象存储是面向对象/文件的、海量的互联网存储,它也可以直接被称为“云存储”。对象尽管是文件,它是已被封装的文件(编程中的对象就有封装性的特点),也就是说,在对象存储系统里,不能直接打开/修改文件,但可以像ftp一样上传文件,下载文件等。
以分布式对象存储为例,在实现http类型应用客户端在读写时是基于S3 RESTAPI标准。然而,现有的S3类型存储接口,不管是AWS还是公有云等产品,如果要写多个文件,一次请求只能写一个文件,客户端需要分别封装多个文件的PUT写入请求,然后以一定并发发送请求,交互非常耗用客户端资源和网络资源。读取文件时,有时只需要读取文件的部分分片,即部分范围数据,通常的做法是使用GET读取请求来指定多个不同的范围,而且可能需要单独封装不同分片的GET读取请求,然后以一定并发发送请求。特别是对不同文件的分片进行GET读取时,如果文件数很多,就得构造很多请求,交互很多次,同样很耗费系统整体资源,并且效率低。
发明内容
本发明实施例的目的是提供一种对象存储批量读取及写入方法、客户端、存储网关及存储介质,通过提供基于POST请求的批量读写接口,减少客户端与存储网关间的请求交互次数,提高读写效率,降低客户端资源消耗。
第一方面,本发明实施例提供了一种对象存储批量读取方法,应用于客户端;所述方法包括:
在接收到针对目标桶信息对应的至少一个指定对象的读取操作指令时,封装读取POST请求;所述读取PSOT请求包括读取请求头、位于读取请求头或读取请求行的目标桶信息、位于读取请求体的待读取分片范围;
将所述读取POST请求发送给所述存储网关,以供所述存储网关在接收到所述读取POST请求后,根据所述读取POST请求进行回应;
根据所述存储网关的回应读取所述指定对象的待读取分片范围的多个分片数据。
在一些实施例中,所述封装读取POST请求,包括:
在读取请求行中确定请求方法为读取;
将所述目标桶信息放入读取请求头中;
在读取请求体的正文中添加多级标签,以标识所述指定对象及所述指定对象的指定范围的分片数据,其中,所述指定对象的数量为1。
在一些实施例中,所述封装读取POST请求,还包括:
按照存储定义的API接口规范封装读取POST请求,其中,所述API接口基于S3 RESTAPI协议标准。
在一些实施例中,若所述指定对象的数量大于1,则所述在请求体的正文中添加多级标签,以标识所述指定对象及所述指定对象的指定范围的分片数据,包括:
在读取请求体的正文中添加多级标签,且对不同的指定对象增加不同的标识,以标识所述指定对象及所述指定对象的指定范围的分片数据。
在一些实施例中,所述方法还包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳市杉岩数据技术有限公司,未经深圳市杉岩数据技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110361851.9/2.html,转载请声明来源钻瓜专利网。