[发明专利]压缩时序数据以及查询时序数据的方法、装置有效
申请号: | 201711181694.3 | 申请日: | 2017-11-23 |
公开(公告)号: | CN108092667B | 公开(公告)日: | 2021-05-14 |
发明(设计)人: | 沈达宇 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | H03M7/30 | 分类号: | H03M7/30;G06F3/06 |
代理公司: | 北京鸿德海业知识产权代理有限公司 11412 | 代理人: | 袁媛 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 压缩 时序 数据 以及 查询 方法 装置 | ||
本发明提供一种压缩时序数据的方法,包括:将获取的时序数据写入临时表;根据查询时间范围从临时表中确定待压缩的时序数据;对待压缩的时序数据进行压缩后写入最终表,判断当前查询时间范围能否进行更新,如果能,在更新查询时间范围后,转至根据查询时间范围从所述临时表中确定待压缩的时序数据的步骤;否则,对写入最终表中的时序数据的压缩结果进行压缩。本发明还提供一种查询时序数据的方法,包括:获取待查询的时序数据的生成时间范围;将第一次压缩时所使用的查询时间范围中的标记时间与生成时间范围进行比较,根据比较结果确定待查询的时序数据的存储位置,存储位置包括临时表和/或最终表;根据所确定的存储位置获取待查询的时序数据。
【技术领域】
本发明涉及云计算领域,尤其涉及一种压缩时序数据以及查询时序数据的方法、装置。
【背景技术】
时序数据可以用于分析过去、监控现在以及预测未来,对于企业而言,时序数据具有不可估量的价值。因此需要对时序数据进行存储。但现有场景下的时序数据的特点就是数据量大,随之带来的问题就是存储时序数据的成本较高。为了降低时序数据的存储成本,一般通过对时序数据进行压缩来实现。但是现有技术对时序数据进行压缩时,存在以下缺点:压缩率不高,例如使用OpenTsdb进行压缩时,只是对时序数据库生成的数据文件进行压缩,因此无法得到时序数据的高压缩率;对写入的时序数据有较多的限制,例如facebook的Gorilla,利用该算法虽然能够取得对时序数据的高压缩率,但是其要求写入的时序数据必须在当前时间戳的一定范围内,无法对时间较长的历史数据进行压缩。因此,亟需提供一种能够提高压缩率且对写入的时序数据没有限制的压缩时序数据的方法。
【发明内容】
有鉴于此,本发明提供了一种压缩时序数据以及查询时序数据的方法和装置,用于减少对所写入的时序数据的限制,提高时序数据的压缩率。
本发明为解决技术问题所采用的技术方案是提供一种压缩时序数据的方法,所述方法包括:将获取的时序数据写入临时表;根据查询时间范围从所述临时表中确定待压缩的时序数据;对所述待压缩的时序数据进行压缩后写入最终表,判断当前查询时间范围能否进行更新,如果能,在更新所述查询时间范围后,转至所述根据查询时间范围从所述临时表中确定待压缩的时序数据的步骤;否则,对写入所述最终表中的时序数据的压缩结果进行压缩。
根据本发明一优选实施例,所述查询时间范围由标记时间与浮动时间进行表征。
根据本发明一优选实施例,所述根据查询时间范围从所述临时表中确定待压缩的时序数据包括:获取写入临时表中的各时序数据的生成时间范围;将所述生成时间范围在所述查询时间范围内的时序数据作为所述待压缩的时序数据。
根据本发明一优选实施例,所述判断当前查询时间范围能否进行更新包括:判断当前查询时间范围是否为可更新的查询时间范围;或者判断根据当前查询时间范围能否获取待压缩的时序数据。
根据本发明一优选实施例,所述更新所述查询时间范围包括:利用当前查询时间范围中的标记时间加上浮动时间得到的值,更新查询时间范围中的标记时间。
根据本发明一优选实施例,该方法还包括:对写入临时表中的时序数据设置存活时间;若写入临时表中的时序数据达到存活时间,则删除该时序数据。
本发明为解决技术问题所采用的技术方案是提供一种压缩时序数据的装置,所述装置包括:写入单元,用于将获取的时序数据写入临时表;确定单元,用于根据查询时间范围从所述临时表中确定待压缩的时序数据;第一压缩单元,用于对所述待压缩的时序数据进行压缩后写入最终表,判断当前查询时间范围能否进行更新,如果能,在更新所述查询时间范围后转至确定单元,否则转至第二压缩单元;第二压缩单元,用于对写入所述最终表中的时序数据的压缩结果进行压缩。
根据本发明一优选实施例,所述查询时间范围由标记时间与浮动时间进行表征。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711181694.3/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种双采样保持电路
- 下一篇:一种基于离散余弦变换的自适应数据压缩方法及系统
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置