[发明专利]数据分类存储方法、装置及相关产品在审
| 申请号: | 202011446652.X | 申请日: | 2020-12-08 |
| 公开(公告)号: | CN112559642A | 公开(公告)日: | 2021-03-26 |
| 发明(设计)人: | 刘鹏;王建健;杨凯华;王巍;李宪英;向世勇;易凯 | 申请(专利权)人: | 爱信诺征信有限公司;航天信息系统工程(北京)有限公司 |
| 主分类号: | G06F16/28 | 分类号: | G06F16/28;G06F16/22;G06F16/27;G06F16/2455 |
| 代理公司: | 北京合智同创知识产权代理有限公司 11545 | 代理人: | 李杰 |
| 地址: | 100097 北京市海淀区*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数据 分类 存储 方法 装置 相关 产品 | ||
1.一种数据分类存储方法,其特征在于,包括:
根据设置的数据分类机制对数据流中的目标数据进行分类以确定所述目标数据的类别;
根据所述目标数据的类别,确定所述目标数据的存储方式;
根据确定出的存储方式,对所述目标数据进行存储处理。
2.根据权利要求1所述的数据分类存储方法,其特征在于,所述根据设置的数据分类机制对数据流中的目标数据进行分类以确定所述目标数据的类别,包括:根据设置的决策树数据分类机制对数据流中的目标数据进行分类以确定所述目标数据的类别,并生成所述目标数据对应的决策树;将所述目标数据的类别存储到所述决策树的结果节点上。
3.根据权利要求1所述的数据分类存储方法,其特征在于,所述数据分类机制包括重要程度以及大小;所述根据设置的数据分类机制对数据流中的目标数据进行分类以确定所述目标数据的类别包括:根据目标数据的重要程度对所述数据流中的目标数据进行分类确定出数据重要性分类;根据数据的大小以及设定的数据量阈值,对任一权重分类对应的目标数据进行分类确定出数据大小分类。
4.根据权利要求1所述的数据分类存储方法,其特征在于,所述根据目标数据的重要程度对所述数据流中的目标数据进行分类确定出数据重要性分类,包括:获取给所述目标数据配置的权重;根据所述权重确定所述目标数据的重要程度;根据数据的重要程度对所述数据流中的目标数据进行分类确定出数据重要性分类。
5.根据权利要求1所述的数据分类存储方法,其特征在于,所述根据所述目标数据的类别,确定所述目标数据的存储方式,包括:若所述目标数据的类别表征出所述目标数据属于须备份的数据,则所述目标数据的存储方式为分布式存储;否则,则所述目标数据的存储方式为磁盘存储。
6.根据权利要求1所述的数据分类存储方法,其特征在于,所述根据所述目标数据的类别,确定所述目标数据的存储方式,包括:若所述目标数据的类别表征出所述目标数据属于占用空间超过设定空间阈值的数据,则所述目标数据的存储方式为非关系型存储方式;否则,所述目标数据的存储方式为关系型存储方式。
7.根据权利要求1所述的数据分类存储方法,其特征在于,所述根据所述目标数据的类别,确定所述目标数据的存储方式,包括:若所述目标数据的类别表征出所述目标数据属于占用空间超过设定空间阈值的数据,则所述目标数据的存储方式为HDFS存储方式;否则,则所述目标数据的存储方式为Hbase存储方式,所述HDFS存储方式使得所述目标数据存储在Hadoop文件分发库中,Hbase存储方式使得所述目标数据存储在Hadoop数据库。
8.根据权利要求1-7任一项所述的数据分类存储方法,其特征在于,所述根据确定出的存储方式,对所述目标数据进行存储处理包括:为同一类型的所述目标数据分配相同的存储位置,而不同类型的所述目标数据分配不同的存储位置。
9.根据权利要求8所述的数据分类存储方法,其特征在于,所述数据分类存储方法还包括:通过元数据中间件对所述数据分类机制以及所述存储方式进行存储管理。
10.一种数据分类存储装置,其特征在于,包括:
数据分类单元,用于根据设置的数据分类机制对数据流中的目标数据进行分类以确定所述目标数据的类别;
存储方式确定单元,用于根据所述目标数据的类别,确定所述目标数据的存储方式;
存储处理单元,用于根据确定出的存储方式,对所述目标数据进行存储处理。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于爱信诺征信有限公司;航天信息系统工程(北京)有限公司,未经爱信诺征信有限公司;航天信息系统工程(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011446652.X/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





