[发明专利]检测hive数据表的方法和装置有效
申请号: | 201710352699.1 | 申请日: | 2017-05-18 |
公开(公告)号: | CN108958959B | 公开(公告)日: | 2022-04-12 |
发明(设计)人: | 何林艳 | 申请(专利权)人: | 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司 |
主分类号: | G06F11/07 | 分类号: | G06F11/07;G06F16/242 |
代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 张一军;姜劲 |
地址: | 100195 北京市海淀区杏石口路6*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明实施例提供一种检测hive数据表的方法和装置,涉及计算机技术领域,能够快速准确地对hive数据表进行数据唯一性检测。本发明实施例的检测hive数据表的方法包括:针对被测hive数据表建立配置文件,配置文件的配置信息包括表名和主键;构建用于统计hive数据表中主键出现次数的data文件,data文件为键值对型,以hive数据表的数据记录的主键作为键,并且以hive数据表的主键出现次数作为值;在监测到有新增数据记录插入hive数据表的情况下,更新data文件;在data文件存在大于1的值的情况下,发出用于提醒数据重复的第一报警消息。 | ||
搜索关键词: | 检测 hive 数据表 方法 装置 | ||
【主权项】:
1.一种检测hive数据表的方法,其特征在于,包括:针对被测hive数据表建立配置文件,所述配置文件的配置信息包括表名和主键;构建用于统计hive数据表中主键出现次数的data文件,所述data文件为键值对型,以hive数据表的数据记录的主键作为键,并且以所述hive数据表的主键出现次数作为值;在监测到有新增数据记录插入所述hive数据表的情况下,更新所述data文件;在所述data文件存在大于1的值的情况下,发出用于提醒数据重复的第一报警消息。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201710352699.1/,转载请声明来源钻瓜专利网。