[发明专利]深度神经网络攻击方法、装置、介质和计算设备在审
| 申请号： | 201910329772.2 | 申请日： | 2019-04-23 |
| 公开（公告）号： | CN110084002A | 公开（公告）日： | 2019-08-02 |
| 发明（设计）人： | 朱军;董胤蓬;苏航 | 申请（专利权）人： | 清华大学 |
| 主分类号： | G06F21/10 | 分类号： | G06F21/10;G06N3/04;G06N3/08 |
| 代理公司： | 北京志霖恒远知识产权代理事务所(普通合伙) 11435 | 代理人： | 韩雪梅 |
| 地址： | 100084 北*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | |||
| 搜索关键词： | 攻击 神经网络 对抗 样本 变换信息 计算设备 原始样本 攻击装置 损失函数 图片生成 样本生成 样本转移 平移 敏感度 权重 图片 | ||
1.一种深度神经网络攻击方法，包括：
建立攻击模型，其中，所述攻击模型至少包括原始样本的变换信息以及识别模型在所述原始样本根据所述变换信息变换后的图片上的损失函数的权重；
利用所述攻击模型基于原始样本来生成对抗样本。
2.如权利要求1所述的方法，其中，所述对抗样本满足：
与原始样本在l∞范数下的距离不大于预设阈值∈；
能够被识别模型误认为不属于原始样本的类别。
3.如权利要求2所述的方法，其中，所述攻击模型基于任一对抗样本生成模型构建。
4.如利要求3所述的方法，其中，所述对抗样本生成模型能够基于输入的原始样本的梯度生成对抗样本。
5.一种深度神经网络攻击装置，包括：
模型建立模块，被配置为建立攻击模型，其中，所述攻击模型至少包括原始样本的变换信息以及识别模型在所述原始样本根据所述变换信息变换后的图片的损失函数的权重；
对抗样本生成模块，被配置为利用所述攻击模型基于原始样本来生成对抗样本。
6.如权利要求5所述的装置，其中，所述对抗样本满足以下条件：
与原始样本在l∞范数下的距离不大于预设阈值∈；
能够被识别模型误认为不属于原始样本的类别。
7.如权利要求6所述的装置，其中，所述攻击模型基于任一对抗样本生成模型构建。
8.如权利要求7所述的装置，其中，所述对抗样本生成模型能够基于输入的原始样本的梯度生成对抗样本。
9.一种计算机可读存储介质，存储有程序代码，所述程序代码当被处理器执行时，实现如权利要求1-4之一所述的方法。
10.一种计算设备，包括处理器和存储有程序代码的存储介质，所述程序代码当被处理器执行时，实现如权利要求1-4之一所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于清华大学，未经清华大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/pat/books/201910329772.2/1.html，转载请声明来源钻瓜专利网。
