[发明专利]面向图像分类系统攻击的对抗样本检测方法

摘要

本发明涉及一种基于深度神经网络隐藏层代表性特征最近邻搜索的图像分类系统对抗样本检测方法，属于人工智能对抗领域。主要为了解决对抗样本数量、种类较少难以用于训练和仅使用良性样本训练时深度神经网络隐藏层特征数量较多、相似特征计算量大的问题。本发明首先将只包含良性样本的训练集输入到被攻击图像分类系统中，提取系统隐藏层特征构建隐藏层特征池；并将其按照标签分别进行聚类，将每个簇中心作为该标签代表性特征向量，构建代表性特征池；对于测试样本，先进行图像去噪，再输入到系统中提取隐藏层特征，计算该特征在所有代表性特征中的K近邻，将其中出现频率最高的标签与直接将样本输入系统得到的标签比较，如果不同则为对抗样本。