[发明专利]针对隐私保护神经网络模型的后门攻击的检测与识别方法

权利要求书

1.一种针对隐私保护神经网络模型的后门攻击的检测与识别方法，其特征在于，所述方法包含以下步骤：

步骤(1)，产生掩码矩阵和触发器矩阵；

步骤(2)，设置后门检测相关参数初始状态；

步骤(3)，构建对抗性输入；

步骤(4)，进行掩码矩阵和触发器矩阵的优化训练；

步骤(5)，计算掩码矩阵和触发器矩阵的梯度；

步骤(6)，重置掩码矩阵和触发器矩阵；

步骤(7)，触发器逆向工程；

所述步骤(1)产生掩码矩阵和触发器矩阵，辅助服务器P₃将随机产生的mask_init和pattern_init计算出mask_tanh和pattern_tanh并秘密发送给三方服务器P₀，P₁和P₂；

所述步骤(2)设置后门检测相关参数初始状态，辅助服务器P₃通过计算出的mask_tanh和pattern_tanh计算和mask_upsample＝mask_raw，reverse_mask＝1－mask_upsample并秘密发送给三方服务器P₀，P₁和P₂；

所述步骤(3)构建对抗性输入，三方服务器P₀，P₁和P₂使用秘密分享的mask_upsample，reverse_mask和pattern_raw本地构建对抗性输入x_adv；

所述步骤(4)进行掩码矩阵和触发器矩阵的优化训练，三方服务器P₀，P₁和P₂利用根据构建出来的本地对抗性输入x_adv进行预测，将结果发送给辅助服务器P₃交互完成精度和损失值的计算，此过程除了预测结果，不会泄漏任何隐私；

所述步骤(5)计算掩码矩阵和触发器矩阵的梯度，三方服务器P₀，P₁和P₂和辅助服务器P₃根据计算出来的损失值交互完成mask_tanh和pattern_tanh的梯度计算，计算过程不会泄漏任何隐私；

所述步骤(6)重置掩码矩阵和触发器矩阵，辅助服务器P₃通过计算出的新的mask_tanh和pattern_tanh计算和mask_upsample＝mask_raw，reverse_mask＝1－mask_upsample并秘密发送给三方服务器P₀，P₁和P₂；

所述步骤(7)触发器逆向工程，三方服务器P₀，P₁和P₂和辅助服务器P₃根据计算出来的结果优化mask_tanh和pattern_tanh，得到最优的mask_best＝mask_raw和pattern_best＝pattern_raw。