[发明专利]可解释性深度学习的差分隐私保护方法有效
申请号: | 202010011049.2 | 申请日: | 2020-01-06 |
公开(公告)号: | CN111242196B | 公开(公告)日: | 2022-06-21 |
发明(设计)人: | 王金艳;李德;胡宇航;李先贤 | 申请(专利权)人: | 广西师范大学 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/04;G06N3/08;G06F21/62 |
代理公司: | 桂林市持衡专利商标事务所有限公司 45107 | 代理人: | 陈跃琳 |
地址: | 541004 广西壮*** | 国省代码: | 广西;45 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 解释性 深度 学习 隐私 保护 方法 | ||
1.可解释性深度学习的差分隐私保护方法,其特征是,包括步骤如下:
步骤1、初始化可解释性深度学习模型,该可解释性深度学习模型基于前向传播的可解释性卷积神经网络,并依次包括输入层、第一卷积层、第一采样层、第二卷积层、第二采样层、第一全连接层、第二全连接层和输出层;
步骤2、将给定的数据集进行归一化处理后,作为可解释性深度学习模型的训练数据集;
步骤3、利用步骤2的训练数据集对步骤1所得的可解释性深度学习模型的第一卷积层进行训练,以更新可解释性深度学习模型;即:
步骤3.1、对训练数据集进行主成分分析,得到各个主成分的特征值和特征向量;
步骤3.2、对各个主成分的特征值进行降序排序,并选出特征值排在前6位的主成分所对应的特征向量;
步骤3.3、基于所分配的第一隐私预算ε1对步骤3.2所选出的特征向量即初始特征向量进行拉普拉斯加噪,得到满足差分隐私的特征向量;
步骤3.4、对步骤3.3所得的满足差分隐私的特征向量进行截断操作,得到最终特征向量,并将最终特征向量作为可解释性深度学习模型的第一卷积层的6个卷积核,以更新可解释性深度学习模型;
步骤4、将步骤2的训练数据集从步骤3所得的可解释性深度学习模型的第一卷积层的输入输入,第二采样层的输出输出,得到第一特征数据集;
步骤5、先采用k-means++算法对步骤4所得的第一特征数据集中的样本数据进行聚类,得到第一带标签的特征数据集;再利用Mixup算法对第一带标签的特征数据集进行增强操作,得到第一增强数据集;
步骤6、对第一增强数据集进行最小二乘回归计算,并将计算所得的映射系数向量作为可解释性深度学习模型的第二采样层与第一全连接层的连接参数,以更新可解释性深度学习模型;
步骤7、将步骤5所得的第一增强数据集从步骤6所得的可解释性深度学习模型的第一全连接层的输入输入,第一全连接层的输出输出,得到第二特征数据集;
步骤8、先采用k-means++算法对步骤7所得的第二特征数据集中的样本数据进行聚类,得到第二带标签的特征数据集;再利用Mixup算法对第二带标签的特征数据集进行增强操作,得到第二增强数据集;
步骤9、对第二增强数据集进行最小二乘回归计算,并将计算所得的映射系数向量作为可解释性深度学习模型的第一全连接层与第二全连接层的连接参数,以更新可解释性深度学习模型;
步骤10、基于所分配的第二隐私预算ε2对步骤9所得的可解释性深度学习模型的输出层的平方误差损失函数的展开式的系数进行拉普拉斯加噪,得到加噪后的平方误差损失函数,并将加噪后的平方误差损失函数作为可解释性深度学习模型的的输出层的平方误差损失函数,以更新可解释性深度学习模型;
步骤11、将步骤8所得的第二增强数据集从步骤10所得的可解释性深度学习模型的第二全连接层的输入输入,第二全连接层的输出输出,得到第三特征数据集;
步骤12、将步骤12所得的第三特征数据集输入到步骤10所得的加噪后的平方误差损失函数中,通过最小化加噪后的平方误差损失函数求得第二全连接层和输出层的连接参数,以更新可解释性深度学习模型;
步骤13、将当前可解释性深度学习模型作为最终的可解释性深度学习模型;
步骤14、将待保护的数据输入到步骤13所得到的最终的可解释性深度学习模型中,最终的可解释性深度学习模型的输出即为隐私保护后的数据。
2.根据权利要求1所述的可解释性深度学习的差分隐私保护方法,其特征是,步骤3.3中,第j个初始特征向量的隐私预算εj为:
其中,ε1为给定的第一隐私预算,λj为第j个初始特征向量所对应的特征值,j=1,2,...,6。
3.根据权利要求1所述的可解释性深度学习的差分隐私保护方法,其特征是,步骤3.3中,在进行拉普拉斯加噪时,其第j个初始特征向量的全局敏感度Δfj为:
其中,为第j个初始特征向量的所有元素中的数值最大值,为第j个初始特征向量的所有元素中的数值最小值,||·||1为L-1范数,j=1,2,...,6。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广西师范大学,未经广西师范大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010011049.2/1.html,转载请声明来源钻瓜专利网。