[发明专利]一种深度神经网络对抗攻击的检测方法及装置有效
| 申请号： | 201911029288.4 | 申请日： | 2019-10-28 |
| 公开（公告）号： | CN110796237B | 公开（公告）日： | 2023-04-07 |
| 发明（设计）人： | 李平;张全;季纯;马东阳;徐理刚;徐伟 | 申请（专利权）人： | 宁夏吉虎科技有限公司 |
| 主分类号： | G06N3/0464 | 分类号： | G06N3/0464;G06N3/08;G06F18/214 |
| 代理公司： | 北京弘权知识产权代理有限公司 11363 | 代理人： | 逯长明;许伟群 |
| 地址： | 750004 宁夏回族自治区银川市金凤*** | 国省代码： | 宁夏;64 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本申请实施例提供了一种深度神经网络对抗攻击的检测方法及装置，方法包括向原始模型中输入正常训练样本获取触发参数不变量；创建派生模型；向派生模型输入正常训练样本获取初始关联不变量；向原始模型中输入检测样本获取观测触发参数；向派生模型中输入检测样本获取观测初始关联参数；根据以上得到的参数和不变量判断检测样本是否为对抗攻击样本。与现有技术相比本申请基于触发参数不变量和初始关联不变量来判断观测触发参数和初始关联参数与前述两个不变量的大小关系，从而能够准确地检测出对抗攻击样本，实现对特定固定及方法的有效防御和检测，同时本申请的对抗攻击检测方法具备普遍性，能够抵御广泛多样的攻击形式。 | ||
| 搜索关键词： | 一种 深度 神经网络 对抗 攻击 检测 方法 装置 | ||
【主权项】：
1.一种深度神经网络对抗攻击的检测方法，其特征在于，所述方法包括：/n向原始模型中输入正常训练样本对所述原始模型进行训练，根据训练结果获取触发参数不变量VI；/n从所述原始模型中提取多层神经元层作为子模型，向所述子模型中添加归一化指数层，得到派生模型；/n向所述派生模型输入正常训练样本对所述派生模型进行训练，根据训练结果获取初始关联不变量PI；/n向所述原始模型中输入检测样本对所述原始模型进行训练，根据训练结果获取观测触发参数OV；/n向所述派生模型中输入检测样本对所述派生模型进行训练，根据训练结果获取观测初始关联参数OP；/n计算所述观测触发参数OV属于相应所述触发参数不变量VI的触发参数概率DVi，并计算所述触发参数概率DVi的平均值DV；/n计算所述观测初始关联参数OP符合相应所述初始关联不变量PI分布的关联参数概率DPi，并计算所述关联参数概率Dpi的平均值DP；/n当VI/PI属于正态分布时，如果DV/DP小于第一阈值，则判断所述检测样本为对抗攻击样本；/n当VI/PI属于均匀分布时，如果DV/DP小于第二阈值，则判断所述检测样本为对抗攻击样本。/n
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于宁夏吉虎科技有限公司，未经宁夏吉虎科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201911029288.4/，转载请声明来源钻瓜专利网。
