[发明专利]一种对抗样本生成方法及装置

权利要求书

1.一种对抗样本生成方法，其特征在于，包括：

将原始样本中的区域划分为目标区域和非目标区域；其中，所述目标区域为视觉系统关注度高的区域，所述非目标区域为视觉系统关注度低的区域；

确定所述原始样本的梯度噪声，并分别为所述目标区域和所述非目标区域动态分配不同的步长；

基于所述步长和所述梯度噪声分别对所述目标区域和所述非目标区域添加干扰噪声，以得到与所述原始样本对应的对抗样本；其中，所述非目标区域的干扰强度强于所述目标区域的干扰强度。

2.根据权利要求1所述的对抗样本生成方法，其特征在于，所述将原始样本中的区域划分为目标区域和非目标区域，包括：

利用目标检测算法对所述原始样本进行处理以得到所述将原始样本的所述目标区域和所述非目标区域，并确定所述目标区域中的目标识别类型。

3.根据权利要求2所述的对抗样本生成方法，其特征在于，所述确定所述原始样本的梯度噪声，包括：

如果生成的所述对抗样本用于有目标攻击场景，则以有目标攻击场景中的目标识别类型权重对所述原始样本对应矩阵进行求导计算，得到所述原始样本的梯度矩阵；

如果生成的对抗样本用于无目标攻击场景，则以所述原始样本的目标识别类型权重对所述原始样本对应矩阵进行求导计算并对计算结果取反后得到所述原始样本的梯度矩阵。

4.根据权利要求3所述的对抗样本生成方法，其特征在于，所述分别为所述目标区域和所述非目标区域动态分配不同的步长，包括：

设置初始值为第一预设阈值的步长矩阵，并基于所述目标区域对应矩阵的元素个数、所述梯度矩阵的元素个数及预设最大干扰幅度对所述步长矩阵进行变换计算，得到变换计算后的步长矩阵；其中，变换计算后的步长矩阵中包含为所述目标区域和所述非目标区域动态分配的步长。

5.根据权利要求4所述的对抗样本生成方法，其特征在于，所述基于所述目标区域对应矩阵的元素个数、所述梯度矩阵的元素个数及预设最大干扰幅度对所述步长矩阵进行变换计算，包括：

基于所述目标区域对应矩阵的元素个数、所述梯度矩阵的元素个数、预设最大干扰幅度及第一关系式对所述步长矩阵进行变换计算；

所述第一关系式为：

其中，L_ij为所述步长矩阵中第i行、第j列的元素，N为所述目标区域对应矩阵的元素个数，M为所述梯度矩阵的元素个数，T为预设最大干扰幅度，B1为所述目标区域对应矩阵，B2为所述非目标区域对应矩阵。

6.根据权利要求5所述的对抗样本生成方法，其特征在于，所述基于所述步长和所述梯度噪声分别对所述目标区域和所述非目标区域添加干扰噪声，以得到与所述原始样本对应的对抗样本，包括：

利用所述梯度矩阵和变换计算后的步长矩阵对所述原始样本对应矩阵进行噪声加权计算，以得到与所述原始样本对应的对抗样本。

7.根据权利要求6所述的对抗样本生成方法，其特征在于，所述利用所述梯度矩阵和变换计算后的步长矩阵对所述原始样本对应矩阵进行噪声加权计算，包括：

利用所述梯度矩阵和变换计算后的步长矩阵基于第二关系式对所述原始样本对应矩阵进行噪声加权计算；

所述第二关系式为：

其中，X'_ij为噪声加权计算后的所述原始样本，G_ij为所述梯度矩阵，L_ij为变换计算后的步长矩阵。

8.根据权利要求1至7任一项所述的对抗样本生成方法，其特征在于，所述基于所述步长和梯度噪声分别对所述目标区域和所述非目标区域添加干扰噪声之后，还包括：

判断添加干扰噪声后的所述原始原本中的所述目标区域中的目标识别类型是否为预设类型，如果是，则将添加干扰噪声后的所述原始原本确定为与所述原始样本对应的对抗样本；

如果否，则将添加干扰噪声后的所述原始原本作为输入样本进行迭代计算，以使所述目标区域中的目标识别类型为预设类型。