[发明专利]一种基于长短梯度值的联邦学习恶意客户端检测方法

权利要求书

1.基于长短梯度值的联邦学习恶意客户端检测方法，其特征在于以下步骤，包括：

步骤一：中心服务器C发送初始梯度值w₁给所有训练客户端K＝{k₁，k₂，...，k_n}，每个训练客户端k_i∈K，i＝1，2，...，n根据各自本地的数据集利用初始梯度值w₁进行训练得到本地梯度值

步骤二：训练客户端k_i将本地梯度值发送给中央服务器C，中央服务器C根据梯度值的长短梯度值区分检测恶意客户端k_m和不可靠客户端k_u；

步骤三：中央服务器排除恶意客户端后，将正常客户端k_r和不可靠客户端k_u上传的梯度值进行加权聚合，得到全局梯度值w₂。

2.根据权利要求1所述的基于长短梯度值的联邦学习恶意客户端检测方法，所述步骤二为了检测恶意客户端和不可靠客户端，引入了长短梯度值用于区分恶意客户端和不可靠客户端：

步骤一：利用表示在第r轮训练之前中央服务器从客户端k_i接收到的梯度值集合。那么在第r轮中训练客户端k_i的短梯度值可以表示为：

其中，x是一个动态的数值，这样可以选取需要的梯度值的学习轮数，短梯度值用来消除单轮梯度值的随机性。

那么在第r轮中训练客户端k_i的长梯度值可以表示为：

长梯度值是记录所有时间内梯度值的总和，所以长梯度值可以反映训练客户端对全局模型的累积影响。

3.根据权利要求1所述的基于长短梯度值的联邦学习恶意客户端检测方法，所述步骤二可以按照无目标攻击、目标攻击、不可靠客户端和正常客户端的顺序来检测客户端：

步骤一：由于无目标攻击客户端的目的是为了破坏整个模型，所以它的短梯度值与正常客户端的短梯度值有较大的不同。在符号翻转的无目标攻击中，恶意客户端的梯度值将改变到相反方向，会导致其短梯度值与所有客户端的短梯度值中位值存在较大的角度偏差，所以可以使用短梯度值计算余弦距离用于检测符号翻转的恶意客户端。如果一个客户端k_i的短梯度值和中位值的余弦距离时，其中d_cos(·)表示计算余弦距离，那么该客户端k_i将被检测为符号翻转的无目标攻击客户端；

步骤二：在排除了符号翻转的恶意客户端后，添加噪声的恶意客户端与剩余客户端拥有类似的短梯度值，所以在排除了符号翻转的恶意客户端后，使用了一种基于短梯度值的聚类方法来验证添加噪声的恶意客户端，由于添加噪声的恶意客户端的短梯度值相对于不可靠客户端更加远离其他客户端的短梯度值，所以利用DBSCAN作为聚类方法，通过寻找最大欧氏距离进行分类。通过对剩余客户端的短梯度值进行DBSCAN聚类，会得到两组客户端，一组是由添加噪声的恶意客户端和不可靠客户端组成的集合，另一组是由其他客户端组成的集合。本发明的方法将计算所有客户端短梯度值的中位值再通过计算其中d_Euc(·)表示计算欧氏距离，通过找到由添加噪声的恶意客户端和不可靠客户端的短梯度值中任意两个连续值之间的最大距离，并使用该最大距离的中点作为分离边界值d_m，如果那么该客户端k_i将被检测为添加噪声的恶意客户端；

步骤三：在排除无目标攻击的恶意客户端后，目标攻击的恶意客户端的目的是将全局模型操纵到一个特定的收敛点。在目标攻击的情况下，一些恶意客户端可能在某些迭代轮次中表现正常，以逃避检测，但在长梯度值的整个记录中，可以被检测到。该方法中，在排除检测到的无目标攻击的恶意客户端后，使用K＝2的K-means聚类算法对长梯度值进行分类可以检测出目标攻击恶意客户端；

步骤四：在排除所有检测到的恶意客户端后，不可靠的客户端的短梯度值会远离所有客户端的短梯度值的中位值。在这种情况下，利用余弦距离可以检测出不可靠客户端，通过找到所有客户端短梯度值中任意两个连续值之间的最大距离，并使用该最大距离的中点作为分离边界值d_m，那么用表示为每个客户端和短梯度值中位值的余弦距离，如果客户端满足那么该客户端被检测为不可靠客户端。