[发明专利]基于代理模型的对抗样本生成方法、装置和计算设备

权利要求书

1.一种基于代理模型的对抗样本生成方法，包括：

提供代理模型、原始样本和一基于迭代的对抗样本生成算法；

基于代理模型、原始样本和对抗样本生成算法迭代生成对抗样本，直到达到预设终止条件；

在每个迭代轮次中：

获取上一轮次迭代生成对抗样本时，代理模型的每一卷积核的各个参数自身的权重与梯度；

根据每一卷积核的各个参数的权重和梯度计算每一卷积核的重要性分数，所述重要性分数用于表示相应轮次中代理模型的对应卷积核对生成的对抗样本的影响程度；

根据预设规则以及所述代理模型的各个卷积核的重要性分数剪除所述代理模型的部分卷积核；

根据剪除部分卷积核后保留的各个卷积核更新所述代理模型；

将达到预设终止条件时生成的对抗样本作为最终的对抗样本。

2.如权利要求1所述的基于代理模型的对抗样本生成方法，其中，某一卷积核的重要性分数为所述卷积核的梯度向量转置后和权重的乘积的绝对值。

3.如权利要求1所述的基于代理模型的对抗样本生成方法，其中，所述预设规则包括剪除重要性分数低于预设阈值的卷积核。

4.如权利要求1所述的基于代理模型的对抗样本生成方法，其中，所述预设规则包括以预设的剪枝率进行卷积核剪除。

5.如权利要求4所述的基于代理模型的对抗样本生成方法，其中，根据预设规则以及所述代理模型的各个卷积核的重要性分数剪除所述代理模型的部分卷积核，包括：

基于每一卷积核的重要性分数，按照从高到低的顺序对各个卷积核进行排序；

根据所述剪枝率对排序在后的部分卷积核进行剪除。

6.如权利要求1-5中任一项所述的基于代理模型的对抗样本生成方法，其中，通过将某一个卷积核内的各个参数的数值设为0的方式将所述卷积核剪除。

7.如权利要求6所述的基于代理模型的对抗样本生成方法，其中，所述基于迭代的对抗样本生成算法包括动量迭代式对抗样本生成算法；

在第i轮迭代时，通过以下方式生成对抗样本：

其中，表示第i轮更新得到的动量，表示动量衰减速度，表示代理模型的损失函数计算得到的损失结果关于第i-1轮生成的对抗样本的梯度，表示L1范数，y表示所对应的原始样本X的类别，表示将修改中的对抗样本投影到距离原始样本X不超过ϵ的范围内，其中α是超参数。

8.如权利要求7所述的基于代理模型的对抗样本生成方法，其中，在第i轮迭代时，通过以下方式计算某个卷积核对上一轮次生成的对抗样本的重要性分数：

其中，d表示微分操作，w表示所述卷积核的权重，T表示向量转置。