[发明专利]数据存储及数据查询方法、装置、设备、介质有效
| 申请号: | 201811330460.5 | 申请日: | 2018-11-09 |
| 公开(公告)号: | CN111177077B | 公开(公告)日: | 2023-05-26 |
| 发明(设计)人: | 李森;郭峰;陈小龙 | 申请(专利权)人: | 杭州海康威视数字技术股份有限公司 |
| 主分类号: | G06F16/13 | 分类号: | G06F16/13;G06F16/14 |
| 代理公司: | 北京博思佳知识产权代理有限公司 11415 | 代理人: | 林祥 |
| 地址: | 310051 浙*** | 国省代码: | 浙江;33 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数据 存储 查询 方法 装置 设备 介质 | ||
1.一种数据存储方法,其特征在于,该方法应用于电子设备,包括:
依据目标时间戳确定需存储的目标数据所处的目标时间区间;
将所述目标时间区间发送至本设备加载的spark引擎,以由所述spark引擎依据所述目标时间区间从spark数据文件中获取目标数据并将所述目标数据转换为目标弹性分布式数据集RDD;
从所述spark引擎获取目标RDD,并将所述目标RDD存储到所述spark引擎对应的RDD缓存空间中;
将与所述目标RDD相关的关联参数记录至预设的RDD关联表中;
其中,所述关联参数至少包括所述目标时间戳、所述目标RDD在所述RDD缓存空间中的存储位置。
2.如权利要求1所述的数据存储方法,其特征在于,所述目标时间戳包括至少一个字段;
所述目标时间戳的指定字段上的时间取值与第一设定时间T1进行取模运算得到的取模结果等于设定数值K。
3.如权利要求2所述的数据存储方法,其特征在于,所述目标时间戳是由外部设备输入至所述电子设备;或者,
所述目标时间戳是从所述spark数据文件每次新写入的数据的最大时间戳中确定出的;或者,
所述目标时间戳是从所述电子设备在所述spark数据文件每次新写入数据时的系统时间戳中确定出的。
4.如权利要求1所述的数据存储方法,其特征在于,所述依据目标时间戳确定需存储的目标数据所处的目标时间区间包括:
将在所述目标时间戳之前、且与所述目标时间戳相差第二设定时间T2的时间戳作为起始时间戳;
将从所述起始时间戳开始的一段指定时间段作为所述目标时间区间。
5.如权利要求1所述的数据存储方法,其特征在于,将所述目标RDD存储到所述spark引擎对应的RDD缓存空间中,包括:
对所述目标RDD中的数据进行聚合处理;
将聚合处理后的目标RDD存储到所述spark引擎对应的RDD缓存空间中。
6.一种数据查询方法,其特征在于,该方法应用于电子设备,包括:
当收到由外部输入的查询指令时,按照所述查询指令的指示在本设备预设的RDD关联表中查询目标时间戳,并确定与目标时间戳对应的存储位置;
依据所述存储位置从本设备已加载的spark引擎所对应的RDD缓存空间中获取目标RDD;
将获取到的目标RDD按照指定格式记录至预设的查询结果表中;
其中,所述RDD关联表中记录了与已存入至所述RDD缓存空间中的RDD相关的关联参数,所述关联参数至少包括RDD的时间戳、及RDD在所述RDD缓存空间中的存储位置。
7.一种数据存储装置,其特征在于,该装置应用于电子设备,包括:
区间确定模块,用于依据目标时间戳确定需存储的目标数据所处的目标时间区间;
数据确定模块,用于将所述目标时间区间发送至本设备加载的spark引擎,以由所述spark引擎依据所述目标时间区间从spark数据文件中获取目标数据并将所述目标数据转换为目标弹性分布式数据集RDD;
RDD存储模块,从所述spark引擎获取目标RDD,并将所述目标RDD存储到所述spark引擎对应的RDD缓存空间中;
将与所述目标RDD相关的关联参数记录至预设的RDD关联表中;
其中,所述关联参数至少包括所述目标时间戳、所述目标RDD在所述RDD缓存空间中的存储位置。
8.如权利要求7所述的数据存储装置,其特征在于,所述目标时间戳包括至少一个字段;
所述目标时间戳的指定字段上的时间取值与第一设定时间T0进行取模运算得到的取模结果等于设定数值K。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州海康威视数字技术股份有限公司,未经杭州海康威视数字技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811330460.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种高性能夜光塑料管
- 下一篇:一种料筒干燥系统
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





