[发明专利]数据脱敏方法及装置有效

专利信息
申请号: 201611260695.2 申请日: 2016-12-30
公开(公告)号: CN106778351B 公开(公告)日: 2020-04-21
发明(设计)人: 王明;马晓雨 申请(专利权)人: 中国民航信息网络股份有限公司
主分类号: G06F21/62 分类号: G06F21/62;G06F16/22;G06F16/21
代理公司: 北京瑞思知识产权代理事务所(普通合伙) 11341 代理人: 李涛
地址: 101318 北*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 数据 方法 装置
【权利要求书】:

1.一种数据脱敏方法,其特征在于,包括:

脱敏平台配置HBase数据库的脱敏策略;

所述脱敏平台根据所述脱敏策略从所述HBase数据库获取表结构,配置用于脱敏的MapReduce作业;

所述脱敏平台提交所述MapReduce作业给Hadoop集群执行脱敏操作;

其中,配置所述HBase数据库的所述脱敏策略包括:将所述Hadoop的应用程序编程接口API作为提交所述MapReduce作业的通道;将所述MapReduce作业需要依赖脱敏平台的其它类、脱敏平台的数据库配置信息、以及第三方JAR包配置在包括所述MapReduce作业的胖JAR包;设置系统环境变量Hadoop_USER_NAME对提交所述MapReduce作业的用户进行鉴权;

根据脱敏策略从HBase数据库获取表结构,配置用于脱敏的MapReduce作业包括:

根据表结构对所述HBase数据库的表做全表扫描,和/或,根据预配置的表项和记录数对所述HBase数据库的表做全表扫描;

对扫描得到的所述HBase数据库的表和表结构进行脱敏算法的配置得到所述MapReduce作业。

2.根据权利要求1所述的方法,其特征在于,所述表结构为:字段名。

3.根据权利要求1所述的方法,其特征在于,提交所述MapReduce作业给Hadoop集群执行脱敏操作包括:

根据预设规则判断是否覆盖所述HBase数据库的原表;

在覆盖所述HBase数据库的原表的情况下,删除所述原表并重命名脱敏后的表为所述原表的名称;在不覆盖所述HBase数据库的原表的情况下,创建表并保存脱敏后的表数据,其中,创建的表配置原表名的后缀名。

4.根据权利要求1所述的方法,其特征在于,提交所述MapReduce作业给Hadoop集群执行脱敏操作包括:

获取所述脱敏策略配置的脱敏字段及脱敏算法,以及查询用于脱敏的预设数据字典;

根据所述脱敏字段和所述预设数据字典执行所述脱敏算法,返回脱敏数据。

5.一种数据脱敏装置,应用于脱敏平台,其特征在于,包括:

配置模块,配置HBase数据库的脱敏策略;

获取模块,用于根据所述脱敏策略从所述HBase数据库获取表结构,配置用于脱敏的MapReduce作业;

提交模块,用于提交所述MapReduce作业给Hadoop集群执行脱敏操作;

其中,所述配置模块包括:第一配置单元,用于将所述Hadoop的应用程序编程接口API作为提交所述MapReduce作业的通道;第二配置单元,用于将所述MapReduce作业需要依赖脱敏平台的其它类、脱敏平台的数据库配置信息、以及第三方JAR包配置在包括所述MapReduce作业的胖JAR包;第三配置单元,用于设置系统环境变量Hadoop_USER_NAME对提交所述MapReduce作业的用户进行鉴权;

所述获取模块包括:

扫描单元,用于根据表结构对所述HBase数据库的表做全表扫描,和/或,根据预配置的表项和记录数对所述HBase数据库的表做全表扫描;

获取单元,用于对扫描得到的所述HBase数据库的表和表结构进行脱敏算法的配置得到所述MapReduce作业。

6.根据权利要求5所述的装置,其特征在于,所述表结构为:字段名。

7.根据权利要求5所述的装置,其特征在于,所述提交模块包括:

判断单元,用于根据预设规则判断是否覆盖所述HBase数据库的原表;

处理单元,用于在覆盖所述HBase数据库的原表的情况下,删除所述原表并重命名脱敏后的表为所述原表的名称;在不覆盖所述HBase数据库的原表的情况下,创建表并保存脱敏后的表数据,其中,创建的表配置原表名的后缀名。

8.根据权利要求5所述的装置,其特征在于,所述提交模块包括:

处理单元,用于获取所述脱敏策略配置的脱敏字段及脱敏算法,以及查询用于脱敏的预设数据字典;

脱敏单元,用于根据所述脱敏字段和所述预设数据字典执行所述脱敏算法,返回脱敏数据。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国民航信息网络股份有限公司,未经中国民航信息网络股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201611260695.2/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top