[发明专利]一种基于逐层相关性传播的对抗样本检测方法和装置

权利要求书

1.一种基于逐层相关性传播的对抗样本检测方法，其特征在于，包括以下步骤：

获取图像样本，利用图像样本训练深度学习模型；

将良性图像样本输入至训练好的深度学习模型，并计算每个良性图像样本的相关性分数，其中，良性图像样本的相关性分数由像素点的相关性分数计算得到，像素点的相关性分数依据神经元的相关性，反向逐层传递计算得到；

统计多数良性图像样本的相关性分数分布确定对抗样本的判别依据；

将待测图像样本输入至训练好的深度学习模型，计算待测图像样本的相关性分数，依据判别依据检测待测图像样本是否为对抗样本。

2.如权利要求1所述的基于逐层相关性传播的对抗样本检测方法，其特征在于，所述良性图像样本的相关性分数f(x)为：

其中，是第p个像素点的相关性分数，表示像素点对预测结果有影响，反之无影响。

3.如权利要求1或2所述的基于逐层相关性传播的对抗样本检测方法，其特征在于，所述像素点的相关性分数依据神经元的相关性，反向逐层传递计算得到包括：

第l层神经元i的相关性表示为：第l+1层中所有的神经元的相关性分解后再进行求和，具体公式如下：

其中，表示若第l层神经元i对第l+1层神经元j做出贡献，那么第第l层神经元i应该占第l+1层神经元j的相关性的大份额，即神经元i收集对后一层所连接的神经元j的贡献，的计算公式如下：

其中，z_ij表示第l层神经元i对第l+1层神经元j的加权激活，z_j为第l层所有神经元对第l+1层神经元j的加权激活，ε表示一个常量系数，sign()是一个符号函数。

4.如权利要求1所述的基于逐层相关性传播的对抗样本检测方法，其特征在于，所述统计多数良性图像样本的相关性分数分布确定对抗样本的判别依据包括：

统计多数良性图像样本的相关性分数所形成的阈值范围，将该范围作为判别依据。

5.如权利要求4所述的基于逐层相关性传播的对抗样本检测方法，其特征在于，当待测图像样本的相关性分数超过多数良性图像样本的相关性分数所形成的阈值范围，则认为待测图像样本为对抗样本。

6.如权利要求1所述的基于逐层相关性传播的对抗样本检测方法，其特征在于，利用来自于MNIST数据集的图像样本训练Lenet模型；

利用来自于CIFAR10数据集的图像样本训练VGG16模型；

利用来自于ImageNet数据集的图像样本训练ResNet-34模型。

7.如权利要求1所述的基于逐层相关性传播的对抗样本检测方法，其特征在于，采用交叉熵函数作为损失函数来训练深度学习模型。

8.一种基于逐层相关性传播的对抗样本检测装置，包括存储器，处理器以及存储在所述存储器中并可在所述处理器上执行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现权利要求1～7任一项所述的基于逐层相关性传播的对抗样本检测方法。