[发明专利]图像处理模型的鲁棒性检测方法、设备及程序产品

说明书

本申请公开了图像处理模型的鲁棒性检测方法、设备及程序产品，涉及人工智能、计算机视觉、图像处理、语义分割领域。该方法包括：获取待处理图像；确定本次迭代的损失函数梯度，并根据本次迭代的损失函数梯度确定扰动量，按照扰动量在待处理图像上增加扰动，将扰动后的待处理图像输入至图像处理模型，迭代执行本步骤，直至图像处理模型输出的扰动结果满足预设条件，其中，损失函数为图像处理模型输出的扰动结果与目标结果的函数；根据迭代过程中的所有损失函数梯度，确定图像处理模型的鲁棒性检测结果。该方法实现了图像处理模型的鲁棒性检测。

技术领域

本申请实施例涉及人工智能技术，尤其涉及一种图像处理模型的鲁棒性检测方法、设备及程序产品，可用于计算机视觉、图像处理、语义分割领域。

背景技术

近年来，深度学习技术发展迅速，尤其是在图像处理领域内，深度学习有了越来越多的应用场景。

有研究发现，在深度学习模型的输入图像中添加细微的扰动，这些扰动人类肉眼不易察觉，但却可能导致深度学习模型产生意想不到的错误输出，因此关于深度学习模型的抗扰动能力，即深度学习模型的鲁棒性的检测是一个亟待解决的问题。

发明内容

本申请提供了一种用于模型鲁棒性检测的图像处理模型的鲁棒性检测方法、设备及程序产品。

根据本申请的一方面，提供了一种图像处理模型的鲁棒性检测方法，包括：

获取待处理图像；

确定本次迭代的损失函数梯度，并根据所述本次迭代的损失函数梯度确定扰动量，按照所述扰动量在所述待处理图像上增加扰动，将扰动后的所述待处理图像输入至所述图像处理模型，迭代执行本步骤，直至所述图像处理模型输出的扰动结果满足预设条件，其中，所述损失函数为所述图像处理模型输出的扰动结果与目标结果的函数；

根据迭代过程中的所有损失函数梯度，确定所述图像处理模型的鲁棒性检测结果。

根据本申请的另一方面，提供了一种图像处理模型的鲁棒性检测装置，包括：

获取模块，用于获取待处理图像；

扰动模块，用于确定本次迭代的损失函数梯度，并根据所述本次迭代的损失函数梯度确定扰动量，按照所述扰动量在所述待处理图像上增加扰动，将扰动后的所述待处理图像输入至所述图像处理模型，迭代执行本步骤，直至所述图像处理模型输出的扰动结果满足预设条件，其中，所述损失函数为所述图像处理模型输出的扰动结果与目标结果的函数；

确定模块，用于根据迭代过程中的所有损失函数梯度，确定所述图像处理模型的鲁棒性检测结果。

根据本申请的再一方面，提供了一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述第一方面所述的方法。

根据本申请的又一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行上述第一方面所述的方法。

根据本申请的又一方面，提供了一种计算机程序产品，所述程序产品包括：计算机程序，所述计算机程序存储在可读存储介质中，电子设备的至少一个处理器可以从所述可读存储介质读取所述计算机程序，所述至少一个处理器执行所述计算机程序使得电子设备执行第一方面所述的方法。

根据本申请的技术方案，实现了对图像处理模型的鲁棒性检测。

应当理解，本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特征，也不用于限制本申请的范围。本申请的其它特征将通过以下的说明书而变得容易理解。