[发明专利]对抗样本动态生成方法、装置、电子设备及存储介质

说明书

本申请涉及一种对抗样本动态生成方法、装置、电子设备及存储介质，所述方法包括：实时获取第一用户的第一人脸图像；对所述第一人脸图像进行目标检测及跟踪，生成用于标注所述第一人脸图像中人脸的候选框；基于所述候选框对投影到全息膜上的目标对抗图案进行调整，生成目标扰动图像；获取目标对抗样本，所述目标对抗样本包含所述第一人脸图像和所述目标扰动图像。本申请可以实现通过全息成像的方式将电子设备中显示的数字世界的对抗扰动图像转换至真实的物理世界中，无需将对抗扰动图像打印出来，有利于提高物理世界对抗样本的攻击成功率，并能够实现对抗图案随人脸的调整进行对应调整，提高获取的目标对抗样本中对抗图案与人脸之间的匹配度。

技术领域

本申请涉及人工智能技术领域，尤其涉及一种对抗样本动态生成方法、装置、电子设备及存储介质。

背景技术

对抗样本物理世界攻击研究的是在真实的物理世界中部署深度学习模型时，如何在真实的物理世界构建对抗样本的问题。

目前，对抗样本攻防领域中公开的物理世界攻击方法，在现实场景应用时，需要打印特定形式的物理对抗扰动图案(如面具、眼镜、3D面罩等)，将扰动图案从数字世界转移到物理世界。

然而，由于打印机受到色彩限制，无法完全还原数字世界的扰动图案，这会影响攻击成功率，并且，上述攻击方法在攻击过程中不能实时地调整扰动图案，灵活性差。

发明内容

为了解决上述技术问题或者至少部分地解决上述技术问题，本申请提供了一种对抗样本动态生成方法、装置、电子设备及存储介质。

根据本申请的第一方面，提供了一种对抗样本动态生成方法，应用于电子设备，所述方法包括：

实时获取第一用户的第一人脸图像；

对所述第一人脸图像进行目标检测及跟踪，生成用于标注所述第一人脸图像中人脸的候选框；

基于所述候选框对投影到全息膜上的目标对抗图案进行调整，生成目标扰动图像；

获取目标对抗样本，所述目标对抗样本包含所述第一人脸图像和所述目标扰动图像。

根据本申请的第二方面，提供了一种对抗样本动态生成装置，应用于电子设备，所述装置包括：

收发模块，用于实时获取第一用户的第一人脸图像；

处理模块，用于对所述第一人脸图像进行目标检测及跟踪，生成用于标注所述第一人脸图像中人脸的候选框；以及，

基于所述候选框对投影到全息膜上的目标对抗图案进行调整，生成目标扰动图像；

所述收发模块，还用于获取目标对抗样本，所述目标对抗样本包含所述第一人脸图像和所述目标扰动图像。

根据本申请的第三方面，提供了一种电子设备，包括：处理器，所述处理器用于执行存储于存储器的计算机程序，所述计算机程序被处理器执行时实现第一方面所述的对抗样本动态生成方法。

根据本申请的第四方面，提供了一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现第一方面所述的对抗样本动态生成方法。

根据本申请的第五方面，提供了一种计算机程序产品，当所述计算机程序产品在计算机上运行时，使得所述计算机执行第一方面所述的对抗样本动态生成方法。

本申请实施例提供的技术方案与现有技术相比具有如下优点：