[发明专利]一种面向联邦学习的对抗样本投毒攻击方法

摘要

一种面向联邦学习的对抗样本投毒攻击方法，定义如下场景，假设有m个参与者参与训练，m＝2，假设第k个参与方是攻击者，其攻击的目标是其本地模型参数在参与聚合后，使得联邦学习全局模型在测试集上的性能尽可能差；首先，攻击者通过给本地私有训练样本添加一些人眼无法察觉的对抗扰动以生成“有毒”的对抗样本，并基于这些样本进行本地训练；其次，为了主导全局模型的训练过程，攻击者在本地训练过程中提高训练学习率以加速恶意模型参数的生成；最后，攻击者将其本地模型参数上传至服务器端参与聚合以影响全局模型。在本发明的攻击下联邦全局模型性能显著下降，本发明的攻击方法显示出良好地泛化性能。