[发明专利]一种针对人工智能伪造的图像保护方法

说明书

本发明提供一种针对人工智能伪造的图像保护方法。该方法将初始的输入图像记作x_org，将利用人工智能伪造图像的网络模型记作伪造模型G，所述方法包括：步骤1：随机选定一个初始化方向向量w_d，所述方向向量w_d的大小与伪造模型G的输出相同，且满足[‑1，1]区间内的均匀分布；步骤2：根据伪造模型G的输出和方向向量w_d，定义扰动向量v_I(x_org，G，w_d)；步骤3：设计用于更新输入图像的迭代公式，根据所述扰动向量，通过所述迭代公式对输入图像进行迭代找到一个远离初始的输入图像的新的图像，将所述新的图像作为生成对抗样本图像的攻击起点；步骤4：基于所述攻击起点，按照基于梯度的对抗样本生成方法生成最终的符合条件的对抗样本图像。

技术领域

本发明涉及图像保护技术领域，尤其涉及一种针对人工智能伪造的图像保护方法。

背景技术

人工智能技术的发展带来了许多突破性的研究成果，但是技术的滥用很容易造成严重的安全问题。一些经过训练的生成网络可以将一副普通的照片转换成如梵高画作一般的艺术品，也能对人脸进行多样且逼真的篡改，比如更换发型发色、面部表情和面部装饰等。利用这类生成模型对用户图像进行恶意篡改，是对用户的个人隐私的侵犯，在公开的场合传播将会对国家及社会产生十分恶劣的影响。

面对伪造图像可能造成的威胁，学术界也在努力寻找各种方法来限制深度伪造的泛滥。其中最直接的方法就是通过技术手段寻找证据，以此来检测伪造产生的图像和视频。针对伪造的图像，相关研究也提出了一些检测方法，Mccloskey等人通过分析伪造网络与真实相机在处理颜色上的不同来区分真实图像和伪造图像。但是，被检测的图像或视频极有可能已经在社交平台上传播，通过检测来发现伪造图像和视频的方法并不能直接阻止伪造内容对个人隐私造成的伤害。为此，一些研究开始考虑如何影响算法本身，例如针对伪造模型采用投毒攻击或是对抗攻击的方法，使其无法正常产生伪造图像。这类方法具有更直接的效果，能够保护个人的图像不会被伪造算法恶意使用。

对抗攻击指的是使用对抗样本技术对深度学习模型进行攻击，这一方法主要应用于深度分类模型，通过在图像中添加肉眼难以察觉的对抗扰动，使深度分类模型以高置信度产生错误的分类结果。针对生成模型在深度伪造中滥用现象，对抗攻击的主要目标是通过构造对抗样本，使网络产生错误的伪造结果。目前的研究主要集中在基于梯度的对抗样本生成方法上，例如FGSM、PGD(Madry A,Makelov A,Schmidt L,et al.Towards DeepLearning Models Resistant to Adversarial Attacks[C].International Conferenceon Learning Representations.2018)等经典的对抗样本生成方法，通过控制模型输出与原始图像的差距来构造对抗样本图像。但目前的对抗样本生成方法中常用的随机初始化方法选择的迭代起点是随机的，有时会产生负面的攻击效果。

发明内容

针对目前采用对抗攻击技术伪造网络模型以保护用户图像的方法存在图像保护效果差的问题，本发明提供一种针对人工智能伪造的图像保护方法，根据输出空间中的距离进行对抗样本的初始化，并以伪造网络为目标模型对基于PGD的对抗样本生成方法进行改进；通过对两个测量指标进行实验后证明，本发明方法能够达到较高的图像保护成功率，产生与原始图像距离更远的输出。

本发明提供一种针对人工智能伪造的图像保护方法，将初始的输入图像记作x_org，将利用人工智能伪造图像的网络模型记作伪造模型G，所述方法包括：

步骤1：随机选定一个初始化方向向量w_d，所述方向向量w_d的大小与伪造模型G的输出相同，且满足[-1，1]区间内的均匀分布；