[发明专利]面向图像分类系统攻击的对抗样本检测方法

权利要求书

1.基于深度神经网络隐藏层代表性特征最近邻搜索的图像分类系统对抗样本检测方法，其特征在于所述方法包括如下步骤：

步骤1，将训练集输入到被攻击系统中，按顺序组合系统所有隐藏层神经元的输出，构建深度神经网络隐藏层特征：假定系统是一个N层的深度神经网络模型，将每个隐藏层的s_p(2≤p≤N-1)个神经元的输出y_pq(1≤q≤s_p)顺序组合得到训练样本特征

步骤2，使用所有训练样本的深度神经网络隐藏层特征及其标签构建隐藏层特征池；

步骤3，首先按标签分类隐藏层特征池中的特征，然后使用K-means算法对每类的特征进行聚类，通过余弦相似度计算特征向量之间的距离，得到的每个簇的中心即为该类的代表性特征；

步骤4，使用每个类别的代表性特征及其标签构建代表性特征池；

步骤5，使用3*3的滑动窗口对测试样本进行中值滤波以去除图像噪声；

步骤6，将去除噪声后的测试样本，输入到被攻击系统中，按照与步骤1同样的方式，将所有隐藏层神经元的输出按顺序组合，构建特征；

步骤7，使用K近邻算法，计算测试样本特征在代表性特征池中最近的K个特征，将这K个特征所对应的标签中出现频率最高的作为测试样本的标签1；

步骤8，将原始的测试样本输入到被攻击系统中，得到系统的输出为标签2；

步骤9，如果标签1等于标签2，则判断为良性样本，如果不等，则判断为对抗样本。