[发明专利]数据处理方法和装置在审
申请号: | 201810196279.3 | 申请日: | 2018-03-09 |
公开(公告)号: | CN110245014A | 公开(公告)日: | 2019-09-17 |
发明(设计)人: | 林世洪;高飞;卢兰花 | 申请(专利权)人: | 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司 |
主分类号: | G06F9/50 | 分类号: | G06F9/50 |
代理公司: | 北京英赛嘉华知识产权代理有限责任公司 11204 | 代理人: | 王达佐;马晓亚 |
地址: | 100195 北京市海淀区杏石口路6*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 分布式系统 槽位 分流步骤 映射表 预设 方法和装置 数据分配 数据处理 负载均衡性 分流 表征数据 槽位集合 数据发 关联 响应 申请 | ||
1.一种数据处理方法,包括:
响应于接收到待处理的数据,获取与所述数据相关联的特征值以及从预设的槽位集合中确定用于将所述数据分配到分布式系统节点的至少一个候选槽位,其中,槽位用于管理分布式系统中节点的资源;
确定所述数据的类型,以及根据预设的分流类型映射表确定出与所述类型对应的分流步骤,其中,所述分流类型映射表用于表征数据的类型与分流步骤的对应关系;
基于所述特征值,按照确定出的分流步骤从所述至少一个候选槽位中确定出用于将所述数据分配到分布式系统节点的槽位;
根据预设的分布式系统映射表将所述数据发送到所确定出的槽位对应的分布式系统节点,其中,所述分布式系统映射表用于表征槽位与分布式系统节点之间的对应关系。
2.根据权利要求1所述的方法,其中,所述特征值包括从所述数据中提取的用户名;以及
所述基于所述特征值,按照确定出的分流步骤从所述至少一个候选槽位中确定出用于将所述数据分配到分布式系统节点的槽位,包括:
将所述特征值转化成哈希码;
求取所述哈希码与所述至少一个候选槽位的数量的余数;
根据预设的槽位映射表查询所述余数对应的槽位标识,其中,所述槽位映射表用于表征余数和槽位标识的对应关系。
3.根据权利要求1所述的方法,其中,所述特征值包括接收到所述数据的时间;以及
所述基于所述特征值,按照确定出的分流步骤从所述至少一个候选槽位中确定出用于将所述数据分配到分布式系统节点的槽位,包括:
获取所述至少一个候选槽位的历史流量,其中,所述历史流量指的是预定时间内分配给槽位的数据量;
根据所述历史流量将一天划分为至少一个时间区间,其中,每个时间区间与一个候选槽位相对应;
确定所述时间所在时间区间对应的候选槽位。
4.根据权利要求1所述的方法,其中,所述方法还包括:
将所述确定出的分流步骤、所述特征值和所述槽位对应的槽位标识记录到日志中。
5.根据权利要求4所述的方法,其中,所述方法还包括:
将所述日志发送给日志服务器。
6.一种数据处理装置,包括:
获取单元,配置用于响应于接收到待处理的数据,获取与所述数据相关联的特征值以及从预设的槽位集合中确定用于将所述数据分配到分布式系统节点的至少一个候选槽位,其中,槽位用于管理分布式系统中节点的资源;
第一确定单元,配置用于确定所述数据的类型,以及根据预设的分流类型映射表确定出与所述类型对应的分流步骤,其中,所述分流类型映射表用于表征数据的类型与分流步骤的对应关系;
第二确定单元,配置用于基于所述特征值,按照确定出的分流步骤从所述至少一个候选槽位中确定出用于将所述数据分配到分布式系统节点的槽位;
发送单元,配置用于根据预设的分布式系统映射表将所述数据发送到所确定出的槽位对应的分布式系统节点,其中,所述分布式系统映射表用于表征槽位与分布式系统节点之间的对应关系。
7.根据权利要求6所述的装置,其中,所述特征值包括从所述数据中提取的用户名;以及
所述第二确定单元进一步配置用于:
将所述特征值转化成哈希码;
求取所述哈希码与所述至少一个候选槽位的数量的余数;
根据预设的槽位映射表查询所述余数对应的槽位标识,其中,所述槽位映射表用于表征余数和槽位标识的对应关系。
8.根据权利要求6所述的装置,其中,所述特征值包括接收到所述数据的时间;以及
所述第二确定单元进一步配置用于:
获取所述至少一个候选槽位的历史流量,其中,所述历史流量指的是预定时间内分配给槽位的数据量;
根据所述历史流量将一天划分为至少一个时间区间,其中,每个时间区间与一个候选槽位相对应;
确定所述时间所在时间区间对应的候选槽位。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810196279.3/1.html,转载请声明来源钻瓜专利网。
- 上一篇:物联网计算资源管理方法与装置
- 下一篇:基于最优二元交换的服务器优化调度方法