[发明专利]一种海量异构日志数据检索中间件在审
申请号: | 202111193982.7 | 申请日: | 2021-10-13 |
公开(公告)号: | CN113946580A | 公开(公告)日: | 2022-01-18 |
发明(设计)人: | 王兴众;陈曦;黄金锋;谭亮;李莉丽 | 申请(专利权)人: | 中国舰船研究设计中心 |
主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/2453;G06F16/27 |
代理公司: | 湖北武汉永嘉专利代理有限公司 42102 | 代理人: | 胡建平;李丹 |
地址: | 430064 湖*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 海量 日志 数据 检索 中间件 | ||
1.一种海量异构日志数据检索中间件,其特征在于,所述日志数据检索中间件为适用于日志数据的二级索引数据模型;
二级索引结构包括索引主键和索引值;
所述索引主键包括以下字段:
原始表Region起始键字段RegionStartKey;该字段用于存储Region中的第一行;所述Region为HBase中所有数据的一个子集,
索引名字段IndexName,所述IndexName字段用于唯一标识一个二级索引;
所述原始表Region起始键字段RegionStartKey与索引名字段IndexName之间设有一个长度为1的空字节数组;
非主键列值字段IndexKey,该字段由原始数据表中非主键列值字段拼接而成;
用户表主键字段UserRowKey,该字段用于映射原始数据表中的主键,映射关系生成如下:通过IndexKey与查询条件的比较获得符合条件的索引表主键结果集合,通过该集合获得数据表主键,得到符合条件的记录;原始数据表的主键唯一性决定了该字段的唯一性,保证索引记录与数据表记录的唯一映射关系;
所述索引值包括用于存储索引主键原始表Region起始键字段长度的字段和用于存储用户表主键偏移值的字段。
2.根据权利要求1所述的海量异构日志数据检索中间件,其特征在于,所述索引名字段IndexName采用空字节数组填充策略保持该字段长度为18byte定长。
3.根据权利要求1所述的海量异构日志数据检索中间件,其特征在于,所述二级索引结构的存储方式如下:采用HT-Tree构建内存索引存储。
4.根据权利要求3所述的海量异构日志数据检索中间件,其特征在于,所述采用HT-Tree构建内存索引具体如下:每个叶子节点有四个哈希表,每个哈希表中有三个哈希桶,在使用HT-Tree构建内存索引时,根据关键字的键值通过查找算法查找到关键字可以插入的哈希表,然后通过计算,找到关键字可插入的哈希桶,判断哈希桶是否已满,若已满则分裂该节点,将该关键字插入,若未满则直接插入哈希桶。
5.根据权利要求4所述的海量异构日志数据检索中间件,其特征在于,所述关键字的键值为用户表主键字段中将主键原始字符串经过hash函数映射成整数形式得到主键的键值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国舰船研究设计中心,未经中国舰船研究设计中心许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111193982.7/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置