[发明专利]图像处理模型的鲁棒性检测方法、设备及程序产品

权利要求书

1.一种图像处理模型的鲁棒性检测方法，包括：

获取待处理图像；

确定本次迭代的损失函数梯度，并根据所述本次迭代的损失函数梯度确定扰动量，按照所述扰动量在所述待处理图像上增加扰动，将扰动后的所述待处理图像输入至所述图像处理模型，迭代执行本步骤，直至所述图像处理模型输出的扰动结果满足预设条件，其中，所述损失函数为所述图像处理模型输出的扰动结果与目标结果的函数；

根据迭代过程中的所有损失函数梯度，确定所述图像处理模型的鲁棒性检测结果。

2.根据权利要求1所述的方法，所述根据所述本次迭代的损失函数梯度确定扰动量，包括：

根据所述本次迭代的损失函数梯度、学习率以及前一次迭代的扰动量确定所述扰动量。

3.根据权利要求2所述的方法，所述目标结果是将所述待处理图像输入至所述图像处理模型得到的；

所述根据所述本次迭代的损失函数梯度、学习率以及前一次迭代的扰动量确定所述扰动量，包括：

根据前一次迭代的扰动量与所述损失函数梯度和学习率的乘积的和，确定所述扰动量。

4.根据权利要求3所述的方法，所述图像处理模型输出的扰动结果满足预设条件，包括：

所述图像处理模型输出的扰动结果与目标结果的平均交并比小于或等于第一阈值。

5.根据权利要求2所述的方法，所述目标结果是预先设定的，且所述目标结果与将所述待处理图像输入至所述图像处理模型得到的结果不同；

所述根据所述本次迭代的损失函数梯度、学习率以及前一次迭代的扰动量确定所述扰动量，包括：

根据前一次迭代的扰动量与所述损失函数的梯度和学习率的乘积的差，确定所述扰动量。

6.根据权利要求5所述的方法，所述图像处理模型输出的扰动结果满足预设条件，包括：

所述图像处理模型输出的扰动结果与目标结果的平均交并比大于或等于第二阈值。

7.根据权利要求1-6中任一项所述的方法，所述根据迭代过程中的所有损失函数梯度，确定所述图像处理模型的鲁棒性检测结果，包括：

根据迭代过程中的所有损失函数梯度的绝对值累加和，确定所述图像处理模型的鲁棒性检测结果，所述鲁棒性检测结果与所述损失函数梯度的绝对值累加和正相关。

8.根据权利要求1-6中任一项所述的方法，所述损失函数为所述图像处理模型输出的扰动结果、所述目标结果与所述扰动量的函数。

9.一种图像处理模型的鲁棒性检测装置，包括：

获取模块，用于获取待处理图像；

扰动模块，用于确定本次迭代的损失函数梯度，并根据所述本次迭代的损失函数梯度确定扰动量，按照所述扰动量在所述待处理图像上增加扰动，将扰动后的所述待处理图像输入至所述图像处理模型，迭代执行本步骤，直至所述图像处理模型输出的扰动结果满足预设条件，其中，所述损失函数为所述图像处理模型输出的扰动结果与目标结果的函数；

确定模块，用于根据迭代过程中的所有损失函数梯度，确定所述图像处理模型的鲁棒性检测结果。

10.根据权利要求9所述的装置，所述扰动模块包括：

扰动单元，用于根据所述本次迭代的损失函数梯度、学习率以及前一次迭代的扰动量确定所述扰动量。

11.根据权利要求10所述的装置，所述目标结果是将所述待处理图像输入至所述图像处理模型得到的；

所述扰动单元包括：

第一扰动子单元，用于根据前一次迭代的扰动量与所述损失函数梯度和学习率的乘积的和，确定所述扰动量。

12.根据权利要求11所述的装置，所述图像处理模型输出的扰动结果满足预设条件，包括：

所述图像处理模型输出的扰动结果与目标结果的平均交并比小于或等于第一阈值。