[发明专利]通用扰动获取方法、装置、存储介质及计算机设备

说明书

本申请实施例涉及图像处理领域，并提供了一种通用扰动获取方法、装置、存储介质及计算机设备。其中方法包括：获取样本图像集，所述样本图像集包括多个样本图像；将所述多个样本图像分别与原始图像进行比对，获取变换矩阵特征的概率分布；根据所述变换矩阵特征的概率分布构建图像分类模型的损失函数；将所述样本图像集输入所述图像分类模型，得到各样本图像的预测结果；根据各样本图像的预测结果确定攻击参数值大于预设攻击参数值的目标扰动噪声；将所述目标扰动噪声作为目标通用扰动并输出。上述方法能够有效提高通用扰动攻击的鲁棒性。

技术领域

本申请实施例涉及图像处理领域，尤其是涉及一种通用扰动获取方法、装置、存储介质及计算机设备。

背景技术

在图像识别的场景中，经常需要在输入图像中添加通用扰动，来对输入图像进行攻击，从而使图像分类模型错误地识别输入图像。

目前，通常采用生成式对抗网络来生成图像的通用扰动。然而，这种生成通用扰动的方式，并没有考虑现实世界的变换所带来的影响，例如，当输入图像的拍摄角度发生变化时，在图像识别过程中这种变化可能会抵消添加的通用扰动，从而使通用扰动对输入图像的攻击失效，即无法保证通用扰动攻击的鲁棒性。

发明内容

本申请实施例提供了一种通用扰动获取方法、装置、存储介质及计算机设备，主要在于能够提高通用扰动攻击的鲁棒性。

第一方面中，本申请实施例提供了一种通用扰动获取方法，该方法包括：

获取样本图像集，所述样本图像集包括多个样本图像；

将所述多个样本图像分别与原始图像进行比对，获取变换矩阵特征的概率分布；

根据所述变换矩阵特征的概率分布构建图像分类模型的损失函数；

将所述样本图像集输入所述图像分类模型，得到各样本图像的预测结果；

根据各样本图像的预测结果确定攻击参数值大于预设攻击参数值的目标扰动噪声；

将所述目标扰动噪声作为目标通用扰动并输出。

第二方面中，本申请实施例提供了一种实施上述通用扰动获取方法的通用扰动获取装置，该装置包括：

输入输出模块，用于获取样本图像集，所述样本图像集包括多个样本图像；

处理模块，用于将所述多个样本图像分别与原始图像进行比对，获取变换矩阵特征的概率分布；根据所述变换矩阵特征的概率分布构建图像分类模型的损失函数；将所述样本图像集输入所述图像分类模型，得到各样本图像的预测结果；根据各样本图像的预测结果确定攻击参数值大于预设攻击参数值的目标扰动噪声；将所述目标扰动噪声作为目标通用扰动并输出。

在一个实施例中，所述处理模块，具体用于将初始扰动添加到第一样本图像后，输入图像分类模型；获取所述图像分类模型的第一预测结果；若所述第一预测结果为失败，则获取历史扰动噪声，以及从所述样本图像集中选择候选样本图像；所述历史扰动噪声包括历史样本图像输入所述图像分类模型后对应的历史预测结果为失败时生成的扰动噪声，以及所述第一样本图像输入所述图像分类模型后对应的第一预测结果为失败时生成的扰动噪声；将所述历史扰动噪声添加到所述候选样本图像后，输入所述图像分类模型；获取所述图像分类模型的第二预测结果；若所述第二预测结果为失败，则将所述第二预测结果对应的扰动噪声更新到所述历史扰动噪声中，直至攻击参数值大于预设攻击参数值，则将大于所述预设攻击参数值时获取的历史扰动噪声输出并作为所述目标通用扰动。