[发明专利]一种基于隐私保护的数据处理方法、系统及电子设备在审
申请号: | 202211054055.1 | 申请日: | 2022-08-31 |
公开(公告)号: | CN115408711A | 公开(公告)日: | 2022-11-29 |
发明(设计)人: | 孔繁斌;于鉴;张熙 | 申请(专利权)人: | 青岛迈金智能科技股份有限公司 |
主分类号: | G06F21/62 | 分类号: | G06F21/62;G06F21/64;G06F16/215;G06F16/2458 |
代理公司: | 北京同辉知识产权代理事务所(普通合伙) 11357 | 代理人: | 王艳秋 |
地址: | 266000 山东省青岛市城*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 隐私 保护 数据处理 方法 系统 电子设备 | ||
1.一种基于隐私保护的数据处理方法,其特征在于,包括:
步骤S100、获取原始数据;
步骤S200、基于预设的规则对原始数据进行筛选,以剔除原始数据中的隐私特征数据;
步骤S300、基于筛选后的数据是否存在空值确定对筛选后数据的处理策略;
步骤S400、对处理后的数据进行数据类型以及数值范围异常判断,基于判断结果确定对数据的清理策略。
2.根据权利要求1所述的一种基于隐私保护的数据处理方法,其特征在于,
所述规则为剔除原始数据中的隐私特征数据,保留原始数据中的非隐私特征数据;
基于预先设定的规则对原始数据进行筛选,具体为:
调用预先设定的检索表对所获取的原始数据进行匹配,其中,所述检索表中包含有表征隐私特征数据的特征值;
根据匹配结果查找并剔除原始数据中的隐私特征数据,得到非隐私特征数据。
3.根据权利要求2所述的一种基于隐私保护的数据处理方法,其特征在于,在步骤S200与步骤S300之间还包括:
将剔除隐私特征数据的原始数据使用RAND函数生成随机序列,且采用随机序列降序扰乱数据集。
4.根据权利要求2或3所述的一种基于隐私保护的数据处理方法,其特征在于,基于筛选后的数据是否存在空值确定对筛选后数据的处理策略,具体为:
当所述非隐私特征数据中存在未输出数据值的标签时,将该标签定义为空值标签,采用自学习的数据自动标注算法对空值标签进行预测,反之,将标签定义为非空值标签,执行步骤S400。
5.根据权利要求4所述的一种基于隐私保护的数据处理方法,其特征在于,采用自学习的数据自动标注算法对空值标签进行预测,具体为:
调用预先构建的自学习的数据自动标注算法模型,并利用非空值标签的数据训练模型;
基于训练后的模型,输入与空值标签相关联的非隐私特征数据,输出预测的伪标签数据,循环迭代,直至完成所有空值标签的预测。
6.根据权利要求5所述的一种基于隐私保护的数据处理方法,其特征在于,输出预测的伪标签数据之后还包括确定置信度,具体为:
在两条或多条非隐私特征数据字段信息相同的情况下,设定该两条或多条非隐私特征数据相对应的标签值相同;
确定与伪标签数据相关联的非隐私特征数据相同的另一条非隐私特征数据,并设定该另一条非隐私特征数据相关联的非空值标签作为监测标签数据,计算伪标签数据与监测标签数据之间的差值,根据所述差值在预设的差值范围与置信度阈值对应关系中确定置信度,若所述置信度大于预设的置信度阈值,保留伪标签数据及其相关联的非隐私特征数据,反之,则剔除伪标签数据及其相关联的非隐私特征数据。
7.根据权利要求1所述的一种基于隐私保护的数据处理方法,其特征在于,对处理后的数据进行数据类型以及数值范围异常判断,基于判断结果确定对数据的清理策略,具体为:
设定数据类型判别逻辑,循环遍历,若当前数据的数据类型符合判别逻辑则保留当前数据,反之,将当前数据的数据类型转换为符合判别逻辑的类型;
依据正态分布原则,动态设定数值范围,循环遍历,若当前数据的数值符合数值范围则保留当前数据,反之,剔除当前数据。
8.根据权利要求7所述的一种基于隐私保护的数据处理方法,其特征在于,步骤S400中所述异常判断还包括:
设定缺省值与默认值判别逻辑,循环遍历,若当前数据符合判别逻辑则保留当前数据,反之,剔除当前数据。
9.一种基于隐私保护的数据处理系统,其特征在于,包括:
数据获取单元,用于获取原始数据;
数据筛选单元,基于预设的规则对原始数据进行筛选,以剔除原始数据中的隐私特征数据;
数据处理单元,基于筛选后的数据是否存在空值确定对筛选后数据的处理策略,以及对处理后的数据进行数据类型以及数值范围异常判断,基于判断结果确定对数据的清理策略。
10.一种电子设备,其特征在于,包括存储器和处理器;
所述存储器上存储有可被所述处理器执行的计算机可读程序;
所述处理器执行所述计算机可读程序时实现权利要求1-8任一所述的基于隐私保护的数据处理方法中的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于青岛迈金智能科技股份有限公司,未经青岛迈金智能科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211054055.1/1.html,转载请声明来源钻瓜专利网。