[发明专利]数据处理方法及装置有效
申请号: | 201310751401.6 | 申请日: | 2013-12-31 |
公开(公告)号: | CN104750749B | 公开(公告)日: | 2018-04-03 |
发明(设计)人: | 刘健男 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京国昊天诚知识产权代理有限公司11315 | 代理人: | 许志勇 |
地址: | 英属开曼群岛大开*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 装置 | ||
1.一种数据处理方法,其特征在于,包括:
通过一个或多个计算节点对接收到的流数据执行流数据处理;
将所述流数据处理的处理结果作为中间数据存储在数据库的主数据表和副数据表中,所述中间数据通过与所述中间数据的数据标识相关的键存储在所述主数据表中,所述中间数据通过与所述中间数据对应的计算节点的节点标识相关的键存储在所述副数据表中;以及
当所述一个或多个计算节点重启时,根据所述计算节点的节点标识从所述副数据表中为所述计算节点加载与所述计算节点对应的中间数据,以基于所述中间数据对后续接收到的流数据继续执行所述流数据处理。
2.根据权利要求1所述的方法,其特征在于,进一步包括:
响应于针对所述流数据处理的处理结果的查询请求,根据作为所述流数据处理的处理结果的中间数据的数据标识,从所述主数据表中获取相应的中间数据并将所述中间数据作为查询结果返回。
3.根据权利要求2所述的方法,其特征在于,响应于针对所述流数据处理的处理结果的查询请求,根据作为所述流数据处理的处理结果的中间数据的数据标识,从所述主数据表中获取相应的中间数据并将所述中间数据作为查询结果返回,进一步包括:
根据所述查询请求中包含的数据标识,在所述主数据表的索引中查找与所述数据标识相关的键;
根据与所述数据标识相关的键,确定与所述数据标识对应的中间数据的存储位置;
从所述存储位置获取对应的中间数据作为查询结果返回。
4.根据权利要求1所述的方法,所述根据所述计算节点的节点标识从所述副数据表中为所述计算节点加载与所述计算节点对应的中间数据,进一步包括:
根据该计算节点的节点标识在所述副数据表的索引中查找与所述节点标识相关的键;
根据与所述节点标识相关的键,确定与该计算节点对应的中间数据的存储位置;以及
从所述存储位置加载对应的中间数据。
5.根据权利要求1所述的方法,其中,所述中间数据的数据标识包括:所述中间数据的对象标识。
6.根据权利要求1-5中任一项所述的方法,其中,所述中间数据在所述副数据表中的键中包括所述中间数据在所述主数据表中的键。
7.根据权利要求1-5中任一项所述的方法,其中,所述中间数据在所述副数据表中的键包括与该中间数据对应的计算节点的节点标识和该中间数据在主数据表中的键。
8.一种数据处理装置,其特征在于,包括:
处理模块,用于通过一个或多个计算节点对接收到的流数据执行流数据处理;
存储模块,用于将所述流数据处理的处理结果作为中间数据存储在数据库的主数据表和副数据表中,所述中间数据通过与所述中间数据的数据标识相关的键存储在所述主数据表中,所述中间数据通过与所述中间数据对应的计算节点的节点标识相关的键存储在所述副数据表中;以及
加载模块,用于当所述一个或多个计算节点重启时,根据所述计算节点的节点标识从所述副数据表中为所述计算节点加载与所述计算节点对应的中间数据,以使所述一个或多个计算节点基于所述中间数据对后续接收到的流数据继续执行所述流数据处理。
9.根据权利要求8所述的装置,其特征在于,进一步包括:
查询模块,用于响应于针对所述流数据处理的处理结果的查询请求,根据作为所述流数据处理的处理结果的中间数据的数据标识,从所述主数据表中获取相应的中间数据并将所述中间数据作为查询结果返回。
10.根据权利要求9所述的装置,其特征在于,所述查询模块包括:
查找子模块,用于根据所述查询请求中包含的数据标识,在所述主数据表的索引中查找与所述数据标识相关的键;
确定子模块,用于根据与所述数据标识相关的键,确定与所述数据标识对应的中间数据的存储位置;
获取子模块,用于从所述存储位置获取对应的中间数据作为查询结果返回。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201310751401.6/1.html,转载请声明来源钻瓜专利网。