[发明专利]数据处理方法、装置及存储介质在审
| 申请号: | 202111443527.8 | 申请日: | 2021-11-30 |
| 公开(公告)号: | CN114398000A | 公开(公告)日: | 2022-04-26 |
| 发明(设计)人: | 胡瑞坤 | 申请(专利权)人: | 北京旷视科技有限公司;北京迈格威科技有限公司 |
| 主分类号: | G06F3/06 | 分类号: | G06F3/06 |
| 代理公司: | 北京钲霖知识产权代理有限公司 11722 | 代理人: | 李英艳;李志新 |
| 地址: | 100096 北京市海淀区*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数据处理 方法 装置 存储 介质 | ||
本公开是关于一种数据处理方法、装置及存储介质。数据处理方法包括:获取待存储数据,并将所述待存储数据存储至存储系统的可读写高速存储后端;在可读写高速存储后端的已存储数据中确定待转存数据;将所述待转存数据转存至所述存储系统的只读存储后端。通过本公开可以提升数据存储效率。
技术领域
本公开涉及数据处理技术领域,尤其涉及一种数据处理方法、装置及存储介质。
背景技术
目前,可读写高速存储后端和只读存储后端是常见的数据存储单元,可以用于数据的存储与读取。其中,可读写高速存储后端通常指以固态硬盘为代表的主要基于集成电路制作的存储器,其数据存储速度较快,但容量较小。只读存储后端通常指以机械硬盘为代表的旋转盘片为基础的非易失性存储器,其容量较大,但数据存储速度较慢。
相关技术中,通常采用可读写高速存储后端与只读存储后端相结合的方式进行数据的存储及读取。相关技术中的数据处理方法,数据存储效率较低,无法满足用户的需求。
发明内容
为克服相关技术中存在的问题,本公开提供一种数据处理方法、装置及存储介质。
根据本公开实施例的第一方面,提供一种数据处理方法,包括:
获取待存储数据,并将所述待存储数据存储至存储系统的可读写高速存储后端;在可读写高速存储后端的已存储数据中确定待转存数据;将所述待转存数据转存至所述存储系统的只读存储后端。
一种实施方式中,将所述待存储数据存储至存储系统的可读写高速存储后端,包括:确定所述待存储数据所属的存储桶;响应于所述存储系统的可读写高速存储后端中已存在第一目标数据,所述第一目标数据所属存储桶与所述已存储数据所属存储桶相同,将所述待存储数据与所述第一目标数据整合为同一数据段存储至所述存储系统的可读写高速存储后端。
一种实施方式中,在可读写高速存储后端的已存储数据中确定待转存数据,包括:确定所述存储系统的可读写高速存储后端所存储的数据段,并通过所述数据段,得到转存至所述存储系统的只读存储后端的待转存数据。
一种实施方式中,将所述待转存数据转存至所述存储系统的只读存储后端之前,所述方法还包括:确定可读写高速存储后端已存储数据的数量达到目标数量阈值,和/或确定可读写高速存储后端已存储数据中存在有数据大小达到目标大小阈值的数据。
一种实施方式中,将所述待转存数据转存至所述存储系统的只读存储后端,包括:确定所述待转存数据所属的存储桶;响应于所述存储系统的只读存储后端中已存在第二目标数据,所述第二目标数据所属存储桶与所述待转存数据所属存储桶相同,将所述待转存数据与所述第二目标数据整合为同一数据段存储至所述存储系统的只读存储后端。
一种实施方式中,采用如下方式将指定数据与指定待转存数据整合为同一数据段存储所述存储系统的指定存储后端,其中,所述指定数据包括待存储数据,所述指定待转存数据包括第一目标数据,所述指定存储后端包括可读写高速存储后端,或,所述指定数据包括待转存数据,所述指定待转存数据包括第二目标数据,所述指定存储后端包括只读存储后端:将所述指定数据存储于所述指定存储后端的第一存储地址,以及将所述指定待转存数据存储于所述指定存储后端的第二存储地址,所述第一存储地址与所述第二存储地址之间的存储地址差异度小于第一差异度阈值。
一种实施方式中,所述方法还包括:将所述指定数据的元数据存储于所述指定存储后端的第三存储地址,以及将所述指定待转存数据的元数据存储于所述指定存储后端的第四存储地址,所述第三存储地址与所述第四存储地址之间的存储地址差异度小于第二差异度阈值。
根据本公开实施例的第二方面,提供一种数据处理方法,包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京旷视科技有限公司;北京迈格威科技有限公司,未经北京旷视科技有限公司;北京迈格威科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111443527.8/2.html,转载请声明来源钻瓜专利网。





