[发明专利]利用输入数据结构的高效黑盒对抗性攻击

摘要

利用输入数据结构的高效黑盒对抗性攻击。马尔可夫随机场参数被标识以用于分类器的损失函数的梯度项之间的相关性的协方差建模。根据正态分布从图像数据集对图像子集进行采样，以估计梯度项。黑盒梯度估计用于根据采样推断马尔可夫随机场参数的值。由推断值生成傅立叶基向量。使用傅立叶基向量扰动原始图像以获得损失函数值。从损失函数值获得梯度的估计。使用估计的梯度创建图像扰动。图像扰动被添加到原始输入以生成候选对抗性输入，该候选对抗性输入使分类器标识图像中的损失最大化。查询神经网络分类器以确定针对候选对抗性输入的分类器预测。