[发明专利]文本数据脱敏方法、装置、介质及电子设备有效
申请号: | 201911421350.4 | 申请日: | 2019-12-31 |
公开(公告)号: | CN111159770B | 公开(公告)日: | 2022-12-13 |
发明(设计)人: | 张子锐 | 申请(专利权)人: | 医渡云(北京)技术有限公司 |
主分类号: | G06F21/62 | 分类号: | G06F21/62;G06F40/295 |
代理公司: | 北京律智知识产权代理有限公司 11438 | 代理人: | 王辉;阚梓瑄 |
地址: | 100191 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 数据 方法 装置 介质 电子设备 | ||
1.一种文本数据脱敏方法,其特征在于,包括:
获取文本数据;
通过预设字典树和/或预设正则表达式对所述文本数据处理,获取所述文本数据的第一敏感实体词;
通过预设模型对所述文本数据处理,获取所述文本数据中每个字符的标签,其中,所述文本数据中每个字符的标签包括所述文本数据中每个位置的字符的位置类别标签;
根据所述文本数据中每个字符的标签确定所述文本数据的第二敏感实体词;
根据所述文本数据的第一敏感实体词和所述文本数据的第二敏感实体词确定所述文本数据的敏感实体词;
对所述文本数据的敏感实体词进行脱敏处理;
通过所述预设模型对所述文本数据处理,获取所述文本数据中每个字符的标签包括:
通过双向长短期记忆网络层对文本数据的特征向量序列进行处理,获取所述文本数据中每个位置的字符对应的位置类别标签的概率;
通过条件随机场层对每个位置的字符对应的标签的概率处理,获取所述标签的概率的打分;
通过维特比算法对所述标签的概率的打分处理,获取所述文本数据中每个字符的标签;
其中,所述预设字典树通过如下方式确定:
对通用词典中的字符进行组合,得到预设词典;
基于所述预设词典中的词汇建立字典树,所述字典树中的每个节点为所述预设词典中每个词汇的一个字符;
在所述字典树中建立自动机,得到所述预设字典树。
2.根据权利要求1所述的方法,其特征在于,该方法还包括:
基于预设实体词汇的特征构建所述正则表达式,所述预设实体词汇包括以下任意一项或多项:身份证号码、电话号码、银行卡号、护照号码、社保卡号码、门牌号码、邮箱账号、机构名称。
3.根据权利要求1所述的方法,其特征在于,在通过所述预设模型对所述文本数据处理,获取所述文本数据中词汇的标签之前,该方法包括:
对所述文本数据中的每个字符进行处理,得到每个字符的特征向量;
对所述文本数据中每个词汇进行处理,得到每个词汇的特征向量;
基于每个字符的特征向量和每个词汇的特征向量生成所述文本数据的特征向量序列。
4.根据权利要求1所述的方法,其特征在于,在获取所述文本数据之前,该方法还包括:
获取训练数据,所述训练数据包括已知敏感实体词的文本数据;
通过word2vec模型或glove模型对所述训练数据处理,获取所述训练数据中每个字符的特征向量;
对所述训练数据进行分词处理,得到所述训练数据的分词特征序列;
根据所述训练数据的分词特征序列确定所述训练数据的每个词汇中每个位置的字符的标签;
利用所述训练数据中每个字符的特征向量和每个词汇中每个位置的字符的标签训练模型,得到所述预设模型。
5.根据权利要求1所述的方法,其特征在于,该方法还包括:
通过预设实体词集合对所述文本数据的敏感实体词进行校验;
根据校验结果删除所述文本数据的敏感实体词。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于医渡云(北京)技术有限公司,未经医渡云(北京)技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911421350.4/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置