[发明专利]一种数据处理的方法、装置、存储介质及电子设备在审
申请号: | 202310035863.1 | 申请日: | 2023-01-10 |
公开(公告)号: | CN116048800A | 公开(公告)日: | 2023-05-02 |
发明(设计)人: | 李勇;程稳;陈光;朱世强;曾令仿 | 申请(专利权)人: | 之江实验室 |
主分类号: | G06F9/50 | 分类号: | G06F9/50 |
代理公司: | 北京博思佳知识产权代理有限公司 11415 | 代理人: | 周嗣勇 |
地址: | 311121 浙江*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 装置 存储 介质 电子设备 | ||
1.一种数据处理的方法,其特征在于,所述方法应用于分布式集群系统的全局元数据节点,包括:
确定各候选计算节点,并获取各候选计算节点的历史访问记录;
根据所述历史访问记录,确定各候选计算节点对不同名字空间的访问频率,并将访问频率满足预设条件的名字空间作为目标名字空间;
根据每个候选计算节点的剩余存储空间,以及各目标名字空间对应的存储需求,从各候选计算节点中选取出至少一个计算节点,作为目标计算节点;
将所述目标名字空间下的至少部分元数据发送给所述目标计算节点进行存储,以使除所述目标计算节点外的其他计算候选计算节点向所述目标计算节点发送数据获取请求,并根据获取到的元数据进行数据处理。
2.如权利要求1所述的方法,其特征在于,确定各候选计算节点,具体包括:
从各计算节点中,选取部署位置之间的距离满足预设距离条件的计算节点,作为候选计算节点。
3.如权利要求1所述的方法,其特征在于,将所述目标名字空间下的至少部分元数据发送给所述目标计算节点进行存储,具体包括:
根据所述历史访问记录,在所述目标名字空间的根目录中确定各候选计算节点访问过的历史元数据;
将所述历史元数据发送给所述目标计算节点进行存储,并将存储所述历史元数据的目标计算节点作为本地元数据节点。
4.如权利要求1所述的方法,其特征在于,所述方法还包括:
在数据处理的过程中,若所述目标计算节点中未存储有所述数据获取请求对应的元数据,则将存储在所述全局元数据节点中的所述数据获取请求对应的元数据发送给所述目标计算节点进行存储。
5.如权利要求3所述的方法,其特征在于,所述方法还包括:
若监测到所述本地元数据节点对应目标名字空间的访问频率低于预设阈值,则获取所述本地元数据节点发送的撤销请求;
根据所述撤销请求,将所述目标计算节点中存储的元数据进行删除,并撤销所述本地元数据节点。
6.如权利要求5所述的方法,其特征在于,根据所述撤销请求,将所述目标计算节点中存储的元数据进行删除,并撤销所述本地元数据节点,具体包括:
若允许候选计算节点执行对所述元数据的写操作,则在全局元数据节点中同步所述写操作后,将所述目标计算节点中存储的元数据进行删除,并撤销所述本地元数据节点。
7.如权利要求1所述的方法,其特征在于,将所述目标名字空间下的至少部分元数据发送给所述目标计算节点进行存储,以使除所述目标计算节点外的其他计算候选计算节点向所述目标计算节点发送数据获取请求,并根据获取到的元数据进行数据处理,具体包括:
确定预先设置的所述目标计算节点对应的数据处理规则,以使所述其他候选计算节点在所述数据处理规则的约束下进行数据处理。
8.如权利要求7所述的方法,其特征在于,确定预先设置的所述目标计算节点对应的数据处理规则,以使所述其他候选计算节点在所述数据处理规则的约束下进行数据处理,具体包括:
若所述数据处理规则只允许候选计算节点执行对元数据进行读操作,则在监测到出现针对元数据的写操作时,删除存储在所述目标计算节点中的元数据,并释放所述目标名字空间占用的存储空间。
9.如权利要求8所述的方法,其特征在于,所述方法还包括:
若监测到仅出现针对文件数据的写操作,但未出现针对元数据的写操作,则不删除存储在所述目标计算节点中的元数据以及释放所述目标名字空间占用的存储空间。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于之江实验室,未经之江实验室许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310035863.1/1.html,转载请声明来源钻瓜专利网。