[发明专利]一种对抗样本的生成方法和装置

说明书

本发明实施例提供了一种对抗样本的生成方法和装置，所述方法包括：在预设的图像样本中插入对抗图像块，生成测试样本；将所述测试样本输入经过训练的目标检测模型中，并获取所述目标检测模型输出的预测信息；采用所述预测信息，计算所述目标检测模型的多个样本生成损失函数中的一种样本生成损失函数；基于所述目标检测模型的样本生成损失函数，对所述测试样本中对抗图像块的插入方式进行调整，直至所述样本生成损失函数满足预设训练条件，将所述测试样本作为对抗样本。可以高效地生成针对目标检测模型某一类型预测信息的对抗样本。在后续的模型训练过程中，可以针对模型最薄弱的环节进行针对性训练，可以有效地提高模型整体的输出效果。

技术领域

本发明涉及数据处理技术领域，特别是涉及一种对抗样本的生成方法和一种对抗样本的生成装置。

背景技术

对抗样本可以指在添加细微的干扰的情况下，导致模型输出结果的准确率较为明显的降低的样本。一般来说，可以采用对抗样本，对模型进行训练，以提高模型的鲁棒性。但是，对抗样本要实现导致模型输出结果的准确率降低的效果，通常需要反复训练较多次数，导致对抗样本的生成效率较低，从而导致无法高效地对模型进行训练。

发明内容

鉴于上述问题，提出了本发明实施例以便提供一种克服上述问题或者至少部分地解决上述问题的一种对抗样本的生成方法和一种对抗样本的生成装置。

为了解决上述问题，本发明实施例公开了一种对抗样本的生成方法，包括：

在预设的图像样本中插入对抗图像块，生成测试样本；

将所述测试样本输入经过训练的目标检测模型中，并获取所述目标检测模型输出的预测信息；

采用所述预测信息，计算所述目标检测模型的多个样本生成损失函数中的一种样本生成损失函数；

基于所述目标检测模型的样本生成损失函数，对所述测试样本中对抗图像块的插入方式进行调整，直至所述样本生成损失函数满足预设训练条件，将所述测试样本作为对抗样本。

可选地，所述样本生成损失函数包括边界框损失函数、置信度损失函数、以及分类信息损失函数；

所述采用所述预测信息，计算所述目标检测模型的多个样本生成损失函数中的一种样本生成损失函数的步骤，包括：

采用所述预测信息，计算所述目标检测模型的边界框损失函数、置信度损失函数、分类信息损失函数中的任一种损失函数。

可选地，所述在预设的图像样本中插入对抗图像块，生成测试样本的步骤包括：

确定所述对抗图像块的插入位置、旋转角度、噪声系数中的至少一种；

基于所述旋转角度和/或噪声系数，调整所述对抗图像块；

在预设的图像样本中所述插入位置处插入调整后的所述对抗图像块。

可选地，所述确定所述对抗图像块的插入位置、旋转角度、噪声系数中的至少一种的步骤，包括：

在所述图像样本的尺寸范围内，随机选取一插入位置；和/或

在预设的旋转角度范围内，随机选取一旋转角度；和/或

在预设的噪声系数范围内，随机选取一噪声系数。

可选地，所述在预设的图像样本中所述插入位置处插入调整后的所述对抗图像块的步骤，包括：

在预设的图像样本中所述插入位置处，生成所述旋转角度的遮罩图层；

将所述对抗图像块插入所述遮罩图层中。

可选地，所述基于所述目标检测模型的样本生成损失函数，对所述测试样本中对抗图像块的插入方式进行调整的步骤，包括：