[发明专利]抗投毒攻击的聚合防御方法、聚合装置及电子设备

说明书

本发明提供了一种抗投毒攻击的聚合防御方法、聚合装置及电子设备，所述方法主要包括以下步骤：客户端下载全局模型，对本地数据进行训练；客户端利用top‑k算法对于模型参数进行压缩并上传模型参数，服务器接收客户端上传的模型参数；对于模型参数利用主成分分析进行数据降维，提取核心参数，服务器使用聚合算法对客户端性质进行判定；服务器对判定为恶意客户端所上传的模型参数进行剪枝，在本轮模型参数更新中忽略所剪枝的模型参数；服务器聚合梯度更新全局模型，并将更新后的全局模型返回客户端；客户端利用更新后的全局模型对本地模型进行更新。相较于现有技术，本发明能够实现对投毒攻击的通用防御，更加安全和高效地保护个人隐私安全。

技术领域

本发明涉及一种抗投毒攻击的聚合防御方法、聚合装置及电子设备，属于机器学习技术领域。

背景技术

传统联合建模存在着至少一方数据出库、保密协议约束力较弱、泄露方式低成本、解决方案同质化且难突破等诸多问题。那么个人数据或者企业数据在被外部授权使用时，亟需一种安全、可靠、可解释的技术保障体制，安全合规地发挥出数据的最大价值。

联邦学习(Federated Learning)作为一种可以使数据不出本地就被多方利用的分布式机器学习框架，为解决数据孤岛和隐私保护问题提供了全新的解决思路，在医疗、金融、物联网等各个领域均具有广泛的应用前景。

目前针对联邦学习投毒攻击的防御，较为理想的方式仍是从聚合防御方法入，但当前聚合防御方法仍存在准确性不高、鲁棒性较差、防御有局限和隐私易泄露等问题。

有鉴于此，确有必要提出一种抗投毒攻击的聚合防御方法、聚合装置及电子设备，以解决上述问题。

发明内容

本发明的目的在于提供一种抗投毒攻击的聚合防御方法、聚合装置及电子设备，能够更加安全和高效地保护个人隐私安全。

为实现上述目的，本发明提供了一种抗投毒攻击的聚合防御方法，主要包括以下步骤：

S101、客户端下载全局模型，对本地数据进行训练；

S102、客户端利用top-k算法对于模型参数进行压缩并上传模型参数，服务器接收客户端上传的模型参数；

S103、对于模型参数利用主成分分析进行数据降维，提取核心参数，服务器使用聚合算法对客户端性质进行判定；

S104、服务器对判定为恶意客户端所上传的模型参数进行剪枝，在本轮模型参数更新中忽略所剪枝的模型参数；

S105、服务器聚合梯度更新全局模型，并将更新后的全局模型返回客户端；

S106、客户端利用更新后的全局模型对本地模型进行更新。

作为本发明的进一步改进，在步骤S101中，所述全局模型的参数为θ₀，客户端总数为N，恶意客户端数量为M，并且N2*M。

作为本发明的进一步改进，在步骤S102中，在训练轮r中，根据可用性选择一个由k个客户端组成的子集，其中k≤N，子集中每个参与者P_i∈P_r利用本地数据集D_i执行训练算法，以获得更新的参数θ_r，i，利用top-k算法对于模型参数进行压缩并发送到服务器。

作为本发明的进一步改进，在步骤S103中，对于压缩处理后的模型参数更新，服务器接收k个客户端所上传的参数θ_r，i，服务器接收到k个n维样本，即X＝{X₁,X₂，...，X_k}，其中X_j表明服务器接收到的k个客户端中第j个客户端所上传的模型参数。

作为本发明的进一步改进，在步骤S103中，所述聚合算法具体包括：