[发明专利]一种实用相对顺序对抗攻击方法

说明书

本发明公开了一种实用相对顺序对抗攻击方法，属于深度学习与计算机视觉领域。包括以深度排序模型作为目标模型，利用深度排序模型计算查询样本和被选中的候选样本集合之间的距离度量；当深度排序模型的参数获取成功时，使用白盒威胁模型进行相对顺序对抗攻击，得到对抗样本；将所得对抗样本输入到深度排序模型中，输出排序结果；所得的排序结果中，候选样本集合之间的相对顺序已经修改，实现所述实用相对顺序对抗攻击方法。其中，当深度排序模型的参数无法获取时，使用黑盒威胁模型进行相对顺序对抗攻击。本发明所述方法，解决了现有技术中忽视相对顺序对抗攻击可能性、对选中样本相对顺序不敏感、不适用于黑盒威胁模型等问题。

技术领域

本发明属于深度学习与计算机视觉领域，涉及一种实用相对顺序对抗攻击方法。

背景技术

对抗攻击方法在包括深度排序在内的各种深度学习应用中对安全性和公平性有着重大影响。本发明属于一种针对深度排序模型的对抗攻击方法，主要旨在通过对图像查询样本进行肉眼不可视的对抗扰动，使得一组被选中的候选样本之间在图像检索结果中的相对顺序按照攻击者指定的排列矢量进行改变。目前针对深度排序模型的对抗攻击普遍存在下列问题：(1)这些方法无一例外是针对候选样本的绝对位置进行攻击，而完全忽视了针对候选样本之间的相对顺序进行对抗攻击的可能性，从而使得深度排序模型的鲁棒性体现相对片面。然而在实际应用层面上，类似基于图像搜索的网络购物等应用可能会因为相对顺序对抗攻击而引起商品之间相对销量的变化；(2)针对绝对位置的对抗攻击方法无法直接应用于针对相对顺序的攻击目标上，且对选中样本之间的相对顺序不敏感；(3)现有方法因为没有显式考虑到黑盒威胁模型下的各种约束，不能实现在黑盒威胁模型下的相对顺序攻击。通过在深度排序模型中的相对顺序对抗攻击方法可以指导未来的深度排序模型进行更加鲁邦化的设计。

发明内容

为了克服上述现有技术的缺点，本发明的目的在于提供一种实用相对顺序对抗攻击方法，以解决上述存在的忽视相对顺序对抗攻击可能性、对选中样本相对顺序不敏感、以及不能适用于黑盒威胁模型等问题。

为了达到上述目的，本发明采用以下技术方案予以实现：

本发明公开了一种实用相对顺序对抗攻击方法，包括：

步骤一、以深度排序模型f(·，·)作为目标模型，利用深度排序模型f(.，·)计算查询样本q和被选中的候选样本集合C＝{c₁，c₂，...，c_k}之间的距离度量；当深度排序模型f(·，·)的参数获取成功时，使用白盒威胁模型进行相对顺序对抗攻击；

步骤二、使用白盒威胁模型进行相对顺序对抗攻击，包括以下步骤：

设置一个长度为k的排序矢量p，利用排序矢量p标记候选样本集合C中每个样本的相对顺序后进行重排序；重排序后的候选样本集合为C_p＝{c_p1，c_p2，...，c_pk}，以重排序后的候选样本集合C_p中的样本作为攻击对象样本；

针对攻击对象样本，计算其中每个样本与查询样本的组合之间的三元组相对顺序损失；将每两个样本的组合之间的三元组相对顺序损失进行加和，得到一个整体的相对顺序损失函数；基于所得相对顺序损失函数，追加语义保留损失函数，将整体的相对顺序损失函数与追加语义保留损失函数求和，得到总体的带有语义保留性质的相对顺序损失函数；使用投影梯度下降法迭代更新查询样本q，得到对抗样本

步骤三、将所得对抗样本输入到深度排序模型f(·，·)中，输出排序结果；所得的排序结果中，候选样本集合C之间的相对顺序已经修改，实现所述实用相对顺序对抗攻击方法。

优选地，步骤一中，从深度排序模型的候选样本数据库X中选择出k个候选样本，得到候选样本集合C＝{c₁，c₂，...，c_k}；其中，每个候选样本从候选样本数据库X中选出。