[发明专利]数据脱敏方法及装置有效
申请号: | 201611260695.2 | 申请日: | 2016-12-30 |
公开(公告)号: | CN106778351B | 公开(公告)日: | 2020-04-21 |
发明(设计)人: | 王明;马晓雨 | 申请(专利权)人: | 中国民航信息网络股份有限公司 |
主分类号: | G06F21/62 | 分类号: | G06F21/62;G06F16/22;G06F16/21 |
代理公司: | 北京瑞思知识产权代理事务所(普通合伙) 11341 | 代理人: | 李涛 |
地址: | 101318 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 方法 装置 | ||
1.一种数据脱敏方法,其特征在于,包括:
脱敏平台配置HBase数据库的脱敏策略;
所述脱敏平台根据所述脱敏策略从所述HBase数据库获取表结构,配置用于脱敏的MapReduce作业;
所述脱敏平台提交所述MapReduce作业给Hadoop集群执行脱敏操作;
其中,配置所述HBase数据库的所述脱敏策略包括:将所述Hadoop的应用程序编程接口API作为提交所述MapReduce作业的通道;将所述MapReduce作业需要依赖脱敏平台的其它类、脱敏平台的数据库配置信息、以及第三方JAR包配置在包括所述MapReduce作业的胖JAR包;设置系统环境变量Hadoop_USER_NAME对提交所述MapReduce作业的用户进行鉴权;
根据脱敏策略从HBase数据库获取表结构,配置用于脱敏的MapReduce作业包括:
根据表结构对所述HBase数据库的表做全表扫描,和/或,根据预配置的表项和记录数对所述HBase数据库的表做全表扫描;
对扫描得到的所述HBase数据库的表和表结构进行脱敏算法的配置得到所述MapReduce作业。
2.根据权利要求1所述的方法,其特征在于,所述表结构为:字段名。
3.根据权利要求1所述的方法,其特征在于,提交所述MapReduce作业给Hadoop集群执行脱敏操作包括:
根据预设规则判断是否覆盖所述HBase数据库的原表;
在覆盖所述HBase数据库的原表的情况下,删除所述原表并重命名脱敏后的表为所述原表的名称;在不覆盖所述HBase数据库的原表的情况下,创建表并保存脱敏后的表数据,其中,创建的表配置原表名的后缀名。
4.根据权利要求1所述的方法,其特征在于,提交所述MapReduce作业给Hadoop集群执行脱敏操作包括:
获取所述脱敏策略配置的脱敏字段及脱敏算法,以及查询用于脱敏的预设数据字典;
根据所述脱敏字段和所述预设数据字典执行所述脱敏算法,返回脱敏数据。
5.一种数据脱敏装置,应用于脱敏平台,其特征在于,包括:
配置模块,配置HBase数据库的脱敏策略;
获取模块,用于根据所述脱敏策略从所述HBase数据库获取表结构,配置用于脱敏的MapReduce作业;
提交模块,用于提交所述MapReduce作业给Hadoop集群执行脱敏操作;
其中,所述配置模块包括:第一配置单元,用于将所述Hadoop的应用程序编程接口API作为提交所述MapReduce作业的通道;第二配置单元,用于将所述MapReduce作业需要依赖脱敏平台的其它类、脱敏平台的数据库配置信息、以及第三方JAR包配置在包括所述MapReduce作业的胖JAR包;第三配置单元,用于设置系统环境变量Hadoop_USER_NAME对提交所述MapReduce作业的用户进行鉴权;
所述获取模块包括:
扫描单元,用于根据表结构对所述HBase数据库的表做全表扫描,和/或,根据预配置的表项和记录数对所述HBase数据库的表做全表扫描;
获取单元,用于对扫描得到的所述HBase数据库的表和表结构进行脱敏算法的配置得到所述MapReduce作业。
6.根据权利要求5所述的装置,其特征在于,所述表结构为:字段名。
7.根据权利要求5所述的装置,其特征在于,所述提交模块包括:
判断单元,用于根据预设规则判断是否覆盖所述HBase数据库的原表;
处理单元,用于在覆盖所述HBase数据库的原表的情况下,删除所述原表并重命名脱敏后的表为所述原表的名称;在不覆盖所述HBase数据库的原表的情况下,创建表并保存脱敏后的表数据,其中,创建的表配置原表名的后缀名。
8.根据权利要求5所述的装置,其特征在于,所述提交模块包括:
处理单元,用于获取所述脱敏策略配置的脱敏字段及脱敏算法,以及查询用于脱敏的预设数据字典;
脱敏单元,用于根据所述脱敏字段和所述预设数据字典执行所述脱敏算法,返回脱敏数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国民航信息网络股份有限公司,未经中国民航信息网络股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201611260695.2/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置