[发明专利]一种数据处理方法及装置在审
申请号: | 201811156507.0 | 申请日: | 2018-09-28 |
公开(公告)号: | CN109407981A | 公开(公告)日: | 2019-03-01 |
发明(设计)人: | 徐佳宏;杨永滔;成学文;吴启康 | 申请(专利权)人: | 深圳市茁壮网络股份有限公司 |
主分类号: | G06F3/06 | 分类号: | G06F3/06 |
代理公司: | 深圳市深佳知识产权代理事务所(普通合伙) 44285 | 代理人: | 王仲凯 |
地址: | 518004 广东省*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 结点 目标数据 健康数据 数据结 数据读取过程 读取 读取目标 存储 数据处理 读操作 返回 超时 时长 调用 申请 中断 | ||
本申请提供了一种数据处理方法及装置,方法包括:调用读操作函数,执行数据读取过程,数据读取过程,包括:确定存储有目标数据的各个数据结点;从存储有目标数据的各个数据结点中,选取一个健康数据结点,并从健康数据结点中读取所述目标数据;判断读取目标数据所用时长是否超过超时阈值;若是,中断读取目标数据的操作,将健康数据结点标记为坏结点,并返回执行从存储有目标数据的各个数据结点中,选取一个健康数据结点的步骤;若否,返回读取到的目标数据。在本申请中,通过以上方式可以缩短结点完成读操作所用的时间。
技术领域
本申请涉及计算机技术领域,特别涉及一种数据处理方法及装置。
背景技术
目前,具有高度容错能力及可以实时检测错误的分布式存储系统被广泛应用。
存储分布式存储系统中的文件,一般会被分隔为固定大小的数据块,每个数据块具有多个副本,每个副本存储在不同机器(即不同结点)上,保证多个副本中只要至少有一个副本有效,整个数据块就是有效的。
分布式存储系统中某些结点因为系统资源紧张、磁盘操作延时、网络延时等问题,可能会导致读操作超时或写操作超时。而单个结点读操作超时或写操作超时可能会导致使用分布式存储系统的整个集群出现读写超时,因此在结点出现读操作或写操作超时的情况下,如何缩短结点完成读或写操作所用的时间,成为亟待解决的问题。
发明内容
为解决上述技术问题,本申请实施例提供一种数据处理方法及装置,以达到缩短结点完成读操作所用的时间的目的,技术方案如下:
一种数据处理方法,包括:
调用读操作函数,执行数据读取过程,所述数据读取过程,包括:
确定存储有目标数据的各个数据结点;
从存储有目标数据的各个所述数据结点中,选取一个健康数据结点,并从所述健康数据结点中读取所述目标数据;
判断读取所述目标数据所用时长是否超过超时阈值;
若是,中断读取所述目标数据的操作,将所述健康数据结点标记为坏结点,并返回执行从存储有目标数据的各个所述数据结点中,选取一个健康数据结点的步骤;
若否,返回读取到的目标数据。
优选的,所述从存储有目标数据的各个所述数据结点中,选取一个健康数据结点,并从所述健康数据结点中读取所述目标数据,包括:
调用读操作任务接口函数,将读操作任务提交至读数据线程,并运行所述读数据线程,执行从存储有目标数据的各个所述数据结点中,选取一个健康数据结点,并从所述健康数据结点中读取所述目标数据的步骤,所述读数据线程为独立于其他线程的线程;
所述判断读取所述目标数据所用时长是否超过超时阈值,包括:
判断所述读数据线程返回所述目标数据所用时长是否超过超时阈值。
优选的,所述将所述健康数据结点标记为坏结点之后,还包括:
重新确定一个超时阈值,并将重新确定的超时阈值替换所述超时阈值,并返回执行从存储有目标数据的各个所述数据结点中,选取一个健康数据结点,并从所述健康数据结点中读取所述目标数据的步骤。
优选的,所述方法还包括:
调用写操作函数,执行数据写入过程,所述数据写入过程,包括:
获取写管道中各个数据结点的写操作确认信息;
根据各个所述数据结点的写操作确认信息,分别判断各个所述数据结点是否写操作超时;
若是,则选取一个健康数据结点替换写操作超时的数据结点,并继续向所述写管道中写入数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳市茁壮网络股份有限公司,未经深圳市茁壮网络股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811156507.0/2.html,转载请声明来源钻瓜专利网。