[发明专利]一种数据累计方法、装置及电子设备在审
申请号: | 201611102567.5 | 申请日: | 2016-12-02 |
公开(公告)号: | CN108153758A | 公开(公告)日: | 2018-06-12 |
发明(设计)人: | 刘雄昌;高帅;林青;刘书鹏 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京市清华源律师事务所 11441 | 代理人: | 郝玉娥;沈泳 |
地址: | 英属开曼群岛大开*** | 国省代码: | 开曼群岛;KY |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 累计数据 数据累计 业务指标 数据统计 预设 装置及电子设备 数据存储系统 处理方式 存储系统 上报策略 业务级别 业务请求 用户级别 规整 写操作 写性能 超时 存储 合并 申请 | ||
本申请公开了一种数据累计方法,包括:接收针对特定业务指标的数据累计请求;根据所述数据累计请求,对所述特定业务指标的数据进行累计,将该累计数据作为局部累计数据;根据预设的时间间隔,将所述局部累计数据累计到存储在预设的存储系统中的所述特定业务指标的完整累计数据中,并清理所述局部累计数据。这种处理方式,采用超时上报策略,将用户级别的数据统计规整合并为业务级别的数据统计,可以将上百万的业务请求写操作降低至千至百级别以下;因此,可以有效降低对数据存储系统写性能的依赖成本。
技术领域
本申请涉及数据处理技术领域,具体涉及一种数据累计方法、装置及电子设备。本申请同时涉及一种数据累计系统,一种数据排序系统,一种数据累计方法、装置及电子设备,以及一种数据排序方法、装置及电子设备。
背景技术
对于大流量的业务数据统计,目前主要采用实时累加统计请求量的处理方式,即:服务器每接收到一个用户请求,就直接更新对应的统计数据;这种处理方式,将所有请求全都归置到一个存储系统写入;因此,存储系统的写入操作固然成为一个性能瓶颈点。例如,利用TAIR计数器实时增加用户的数据,每一次请求都是一次对中间件TAIR(键值对结构数据存储系统)的写入,在大流量高并发请求的情况下,将对第三方存储系统的性能造成非常大的冲击。
服务器承受前台业务的请求量毕竟是有限,若要满足持续、扩大的业务前台请求,无限扩容机器,也是治标不治本的做法。例如,在双11晚会直播过程中,粉丝对明星的炙热之情,不断为自己喜爱的明星疯狂点赞,如一场DDOS攻击,无法预知将会涌来多少点赞请求量。服务器机器数毕竟有限,且还要承载其他的业务,故必须需要一套高效理性的架构,在尽可能不增加服务器资源的情况下,去承接这样类似的大流量统计型玩法。
因此,如何研究和开发出一种新的数据累计方式,其能够降低对数据存储系统的性能影响成为本领域技术人员迫切需要解决的问题。
发明内容
本申请提供一种数据累计方法、装置及电子设备,以解决现有技术对数据存储系统写性能的依赖成本高的问题。本申请另外提供一种数据累计系统,一种数据排序系统,一种数据累计方法、装置及电子设备,以及一种数据排序方法、装置及电子设备。
本申请提供一种数据累积方法,包括:
接收针对特定业务指标的数据累计请求;
根据所述数据累计请求,对所述特定业务指标的数据进行累计,将该累计数据作为局部累计数据;
根据预设的时间间隔,将所述局部累计数据累计到存储在预设的存储系统中的所述特定业务指标的完整累计数据中,并清理所述局部累计数据。
可选的,所述根据所述数据更新请求,并对所述特定业务指标的数据进行累计,采用如下方式:
根据所述数据更新请求,在内存中对所述特定业务指标的数据进行累计。
可选的,所述预设的存储系统包括键值对结构数据存储系统,将所述特定业务指标的指标标识作为键,将所述完整累计数据作为值。
可选的,若所述累计后的完整累计数据超过所述键值对结构数据存储系统能表示的最大数值,则将累计数据产生的进位值存储在新的键值对中。
可选的,所述预设的存储系统包括数据库系统。
可选的,所述将所述局部累计数据累计到存储在预设的存储系统中的所述特定业务指标的完整累计数据中,包括:
根据所述特定业务指标的指标标识,获取所述完整累计数据;
根据所述局部累计数据和获取到的完整累计数据,计算生成累计后的完整累计数据;
将存储在所述预设的存储系统中的所述完整累计数据更新为累计后的完整累计数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201611102567.5/2.html,转载请声明来源钻瓜专利网。