[发明专利]存算分离方法、系统、设备及介质在审
申请号: | 202310201755.7 | 申请日: | 2023-03-06 |
公开(公告)号: | CN116069753A | 公开(公告)日: | 2023-05-05 |
发明(设计)人: | 王帅阳;肖国栋;李旭东;张在贵 | 申请(专利权)人: | 浪潮电子信息产业股份有限公司 |
主分类号: | G06F16/182 | 分类号: | G06F16/182;G06F9/50 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 王浩 |
地址: | 250000 山东*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 分离 方法 系统 设备 介质 | ||
1.一种存算分离方法,其特征在于,应用于存储节点中部署的大数据存储服务,包括:
获取原生HDFS客户端发送的文件请求;所述原生HDFS客户端为计算平台中的HDFS客户端;
基于HDFS原生协议解析所述文件请求,并将解析后的文件请求发送至分布式文件系统,以便所述分布式文件系统处理所述文件请求,并返回相应的处理结果;
将所述处理结果返回给所述原生HDFS客户端。
2.根据权利要求1所述的存算分离方法,其特征在于,所述将解析后的文件请求发送至分布式文件系统,包括:
调用DFS客户端将解析后的文件请求发送至分布式文件系统。
3.根据权利要求1所述的存算分离方法,其特征在于,所述将解析后的文件请求发送至分布式文件系统,包括:
对所述解析后的文件请求中的位置块关键字段进行重定义,将重定义后的文件请求发送至分布式文件系统。
4.根据权利要求3所述的存算分离方法,其特征在于,所述对所述解析后的文件请求中的位置块关键字段进行重定义,包括:
将位置块关键字段中的块标识重定义为文件标识、numBytes重定义为块大小,块生成时间重定义为块在文件中的偏移量。
5.根据权利要求1所述的存算分离方法,其特征在于,所述获取原生HDFS客户端发送的文件请求之前,还包括:
获取所述原生HDFS客户端发送的建链请求;
基于HDFS原生协议处理所述建链请求,与所述原生HDFS客户端建立链接。
6.根据权利要求5所述的存算分离方法,其特征在于,所述与所述原生HDFS客户端建立链接之后,还包括:
获取所述原生HDFS客户端发送的元数据请求;
向所述原生HDFS客户端返回本节点的IP信息,以便所述原生HDFS客户端基于所述IP信息发送所述文件请求。
7.根据权利要求6所述存算分离方法,其特征在于,还包括:
启动一个进程,以通过该进程监听所述元数据请求以及所述文件请求。
8.根据权利要求6所述的存算分离方法,其特征在于,所述向所述原生HDFS客户端返回本节点的IP信息,包括:
向所述原生HDFS客户端返回本节点的IP信息以及预设数量个其他存储节点的IP信息。
9.根据权利要求5所述的存算分离方法,其特征在于,所述基于HDFS原生协议处理所述建链请求,包括:
基于HDFS ClientProtocol协议处理所述建链请求。
10.根据权利要求1所述的存算分离方法,其特征在于,所述基于HDFS原生协议解析所述文件请求,包括:
基于HDFS ClientDatanodeProtocol、DataTransferProtocol协议解析所述文件请求。
11.根据权利要求5所述的存算分离方法,其特征在于,还包括:
利用大数据标准安全组件对所述原生HDFS客户端进行鉴权操作。
12.根据权利要求5所述的存算分离方法,其特征在于,所述获取所述原生HDFS客户端发送的建链请求,包括:
获取所述原生HDFS客户端基于可用IP信息发送的建链请求;
其中,所述可用IP信息为分布式大数据存储系统基于负载均衡策略在所述分布式大数据存储系统中的多个存储节点中确定出的节点IP信息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浪潮电子信息产业股份有限公司,未经浪潮电子信息产业股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310201755.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:基于机器视觉的枕轨生产质量检测方法
- 下一篇:电池一致性修正方法