[发明专利]对抗图像生成方法、装置及存储介质

说明书

本申请涉及计算机视觉领域，提供了一种对抗图像生成方法、装置及存储介质。该方法包括：获取掩码概率分布、对抗扰动和原始图像；从所述掩码概率分布中采样得到多个第一掩码；分别根据所述多个第一掩码，将所述对抗扰动添加至所述原始图像，得到多个候选对抗图像；分别计算所述多个候选对抗图像与目标图像的相似度；根据多个所述相似度，计算相似度期望；若所述相似度期望未达到预设阈值，则更新所述掩码概率分布，直至重新采样生成的候选对抗图像与目标图像的相似度期望达到预设阈值，并基于更新后的掩码概率分布确定第二掩码，根据所述第二掩得到目标对抗图像。本申请的实施例使用概率分布来确定稀疏的掩码，能够高效地得到稀疏对抗图像。

技术领域

本申请的实施例涉及计算机视觉领域，更具体地涉及一种对抗图像生成方法、装置及存储介质。

背景技术

在实际分类任务中，待识别的图像不可避免地存在一些包含干扰的对象，如果需要通过图像识别模型对该包含干扰的对象准确进行分类，则需要图像识别模型具有较高的抗干扰能力。

为了提高图像识别模型的抗干扰能力，相关技术中一般通过对抗攻击(即生成对抗图像)来对图像识别模型进行对抗训练。

稀疏对抗攻击旨在生成带有稀疏扰动的对抗图像，即扰动尽可能少的特征(例如图像中的像素)，使得图像识别模型对于输入图像误识别。相较于一般的全局对抗攻击，稀疏对抗攻击扰动的特征更少，难以被发现。相较于一般的局部对抗攻击，稀疏对抗攻击能够自动化地选择局部特征进行扰动，能用更少的扰动达到更优的攻击效果。而如何简单、准确地为图像识别模型地生成带有稀疏扰动的对抗图像是现有技术中亟待解决的问题。

现有的稀疏对抗攻击方法包括：

一、直接求解带有L0约束的优化问题。具体地，在迭代过程中，对于不同位置的攻击结果分别进行计算相似度损失并排序。在迭代优化时，通过投影梯度下降的方法，将每轮优化的结果投影到一定L0范数的球内，多轮梯度下降得到优化问题的解

二、将L0约束的优化问题近似成L1约束的优化问题，将正常样本附近的分类边界线性近似，不断通过扰动在分类边界上的投影进行迭代，并将迭代的对抗样本映射回正常图片的值域内，得到最终的对抗样本。

现有的稀疏对抗攻击方法，存在以下缺点：

稀疏攻击的最优问题解决的是带有L0范数约束的离散优化问题，这个离散优化问题的求解是NP难的，计算复杂度太高。

用L1约束的连续优化问题来近似L0范数约束的离散优化问题，由于近似问题的最优解可能并非原问题的最优解，生成的稀疏扰动并非最优的。

发明内容

本申请的实施例提供一种对抗图像生成方法、装置及存储介质，使用概率分布来近似用于确定稀疏掩码的离散变量，即从概率分布中确定离散的掩码(稀疏掩码)，相当于采用概率分布替代用于确定掩码的连续变量，解决L1约束优化这一相比于L0约束优化更易计算的约束优化问题，可以更加高效、简单的得到稀疏掩码，基于所述稀疏掩码在对抗图像上叠加对抗扰动，能够高效准确地得到扰动稀疏的对抗图像。

在本申请的第一方面中，提供了一种对抗图像生成方法，包括：

获取掩码概率分布、对抗扰动和原始图像；

从所述掩码概率分布中采样得到多个第一掩码，所述第一掩码用于确定所述对抗扰动在所述原始图像上的叠加位置；

分别根据所述多个第一掩码，将所述对抗扰动添加至所述原始图像，得到多个候选对抗图像；

分别计算所述多个候选对抗图像与目标图像的相似度；

根据多个所述相似度，计算基于所述掩码概率分布采样得到的第一掩码，将所述对抗扰动添加至所述原始图像后得到的候选对抗图像与目标图像的相似度期望；