[发明专利]数据存储及数据查询方法、装置、设备、介质有效

专利信息
申请号: 201811330460.5 申请日: 2018-11-09
公开(公告)号: CN111177077B 公开(公告)日: 2023-05-26
发明(设计)人: 李森;郭峰;陈小龙 申请(专利权)人: 杭州海康威视数字技术股份有限公司
主分类号: G06F16/13 分类号: G06F16/13;G06F16/14
代理公司: 北京博思佳知识产权代理有限公司 11415 代理人: 林祥
地址: 310051 浙*** 国省代码: 浙江;33
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 数据 存储 查询 方法 装置 设备 介质
【权利要求书】:

1.一种数据存储方法,其特征在于,该方法应用于电子设备,包括:

依据目标时间戳确定需存储的目标数据所处的目标时间区间;

将所述目标时间区间发送至本设备加载的spark引擎,以由所述spark引擎依据所述目标时间区间从spark数据文件中获取目标数据并将所述目标数据转换为目标弹性分布式数据集RDD;

从所述spark引擎获取目标RDD,并将所述目标RDD存储到所述spark引擎对应的RDD缓存空间中;

将与所述目标RDD相关的关联参数记录至预设的RDD关联表中;

其中,所述关联参数至少包括所述目标时间戳、所述目标RDD在所述RDD缓存空间中的存储位置。

2.如权利要求1所述的数据存储方法,其特征在于,所述目标时间戳包括至少一个字段;

所述目标时间戳的指定字段上的时间取值与第一设定时间T1进行取模运算得到的取模结果等于设定数值K。

3.如权利要求2所述的数据存储方法,其特征在于,所述目标时间戳是由外部设备输入至所述电子设备;或者,

所述目标时间戳是从所述spark数据文件每次新写入的数据的最大时间戳中确定出的;或者,

所述目标时间戳是从所述电子设备在所述spark数据文件每次新写入数据时的系统时间戳中确定出的。

4.如权利要求1所述的数据存储方法,其特征在于,所述依据目标时间戳确定需存储的目标数据所处的目标时间区间包括:

将在所述目标时间戳之前、且与所述目标时间戳相差第二设定时间T2的时间戳作为起始时间戳;

将从所述起始时间戳开始的一段指定时间段作为所述目标时间区间。

5.如权利要求1所述的数据存储方法,其特征在于,将所述目标RDD存储到所述spark引擎对应的RDD缓存空间中,包括:

对所述目标RDD中的数据进行聚合处理;

将聚合处理后的目标RDD存储到所述spark引擎对应的RDD缓存空间中。

6.一种数据查询方法,其特征在于,该方法应用于电子设备,包括:

当收到由外部输入的查询指令时,按照所述查询指令的指示在本设备预设的RDD关联表中查询目标时间戳,并确定与目标时间戳对应的存储位置;

依据所述存储位置从本设备已加载的spark引擎所对应的RDD缓存空间中获取目标RDD;

将获取到的目标RDD按照指定格式记录至预设的查询结果表中;

其中,所述RDD关联表中记录了与已存入至所述RDD缓存空间中的RDD相关的关联参数,所述关联参数至少包括RDD的时间戳、及RDD在所述RDD缓存空间中的存储位置。

7.一种数据存储装置,其特征在于,该装置应用于电子设备,包括:

区间确定模块,用于依据目标时间戳确定需存储的目标数据所处的目标时间区间;

数据确定模块,用于将所述目标时间区间发送至本设备加载的spark引擎,以由所述spark引擎依据所述目标时间区间从spark数据文件中获取目标数据并将所述目标数据转换为目标弹性分布式数据集RDD;

RDD存储模块,从所述spark引擎获取目标RDD,并将所述目标RDD存储到所述spark引擎对应的RDD缓存空间中;

将与所述目标RDD相关的关联参数记录至预设的RDD关联表中;

其中,所述关联参数至少包括所述目标时间戳、所述目标RDD在所述RDD缓存空间中的存储位置。

8.如权利要求7所述的数据存储装置,其特征在于,所述目标时间戳包括至少一个字段;

所述目标时间戳的指定字段上的时间取值与第一设定时间T0进行取模运算得到的取模结果等于设定数值K。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州海康威视数字技术股份有限公司,未经杭州海康威视数字技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201811330460.5/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top