[发明专利]存储器、报文处理方法及分布式存储系统有效
申请号: | 201610213662.6 | 申请日: | 2016-04-07 |
公开(公告)号: | CN107276912B | 公开(公告)日: | 2021-08-27 |
发明(设计)人: | 陈昊;郭海涛;张羽 | 申请(专利权)人: | 华为技术有限公司 |
主分类号: | H04L12/861 | 分类号: | H04L12/861;H04L29/06;G06F3/06 |
代理公司: | 北京三高永信知识产权代理有限责任公司 11138 | 代理人: | 罗振安 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 存储器 报文 处理 方法 分布式 存储系统 | ||
本发明公开了一种存储器、报文处理方法及分布式存储系统,属于数据存储领域。所述存储器包括:计算芯片和存储介质;计算芯片,用于对通过键‑值KV接口接收到的第一KV报文进行解析,获得目标数据的键Key和操作信息,用于根据Key从存储介质读取目标数据,用于根据操作信息对目标数据进行计算处理,得到处理后的目标数据,以处理后的目标数据作为值Value生成第二KV报文,通过KV接口发送第二KV报文;解决了相关技术中传统存储器只具有存储能力,需要将大量数据都汇聚到具有计算能力的应用节点来完成对目标数据的计算处理而导致的网络开销大的问题,达到了通过存储器对目标数据进行计算处理,直接向应用节点返回处理后的目标数据,降低了网络开销的效果。
技术领域
本发明实施例涉及数据存储领域,特别涉及一种存储器、报文处理方法及分布式存储系统。
背景技术
分布式存储系统采用非关系型数据库(Not Only SQL,NoSQL)时,通常采用键-值(Key-Value,KV)存储作为数据存储机制。
参考图1,目前的分布式存储系统通常包括两层:应用层10和存储层20。其中,应用层10包括多个分布式部署的应用节点12,每个应用节点12中设置有用于对数据进行处理的计算模块;存储层20包括多个分布式部署的存储器22,每个存储器22用于存储数据。各个应用节点12和各个存储器22通过有线网络或光纤相连。存储器22向应用节点12提供有KV接口,KV接口是一种软件接口。应用节点12可以通过KV接口向存储器22发送KV报文,KV报文中主要包括Key字段和Value字段,Key字段用于指示数据在存储器中的位置信息,Value字段用于指示数据的取值或属性,通过KV接口和KV报文可以实现应用节点12与存储器22之间的交互。
目前的KV报文主要支持读取数据和写入数据,实现对数据的增删查改。当需要对存储器22中的数据进行计算操作时,应用节点12先通过KV接口向存储器22发送用于读取目标数据的KV报文,存储器22将读取到的目标数据携带在另一KV报文中通过KV接口传输给应用节点12,应用节点12对目标数据进行计算处理。
由于一些计算处理所对应的目标数据是大量的,比如,要对十万条目标数据进行排序,得出排名最前的10个数据,此时需要存储器22将十万条目标数据全部传输给应用节点12,由应用节点12对这十万条目标数据进行排序计算。显然,将存储器22中的数据汇聚至应用节点时的网络开销很大,特别是目标数据分散存储在多个存储器22时,所需要的网络开销更大。
发明内容
为了解决存储器需要将目标数据汇聚到有计算能力的应用节点进行计算处理所导致的网络开销较大的问题,本发明实施例提供了一种存储器、报文处理方法及分布式存储系统。所述技术方案如下:
第一方面,提供了存储器,该存储器包括计算芯片和存储介质;计算芯片,用于通过键-值(Key-Value,KV)接口接收第一KV报文,对第一KV报文进行解析,获得目标数据的Key和操作信息;计算芯片,用于根据Key从存储介质读取目标数据;计算芯片,用于根据操作信息对目标数据进行计算处理,得到处理后的目标数据;计算芯片,用于以处理后的目标数据作为Value生成第二KV报文,通过KV接口发送第二KV报文。
在该存储器中,计算芯片可以根据操作信息对目标数据进行计算处理,并反馈处理后的目标数据,解决了相关技术中传统存储器只具有存储能力,当需要对目标数据进行计算处理时,需要将大量数据都汇聚到具有计算能力的应用节点来完成计算处理而导致的网络开销大的问题,达到了通过存储器对目标数据进行计算处理,直接向应用节点返回处理后的目标数据,降低了网络开销的效果。
结合第一方面,在第一方面的第一种可能的实施方式中,计算芯片,用于对第一KV报文进行解析,获得Key字段和Context字段,从Key字段获得目标数据的Key,从Context字段获取操作信息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司,未经华为技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201610213662.6/2.html,转载请声明来源钻瓜专利网。