[发明专利]一种可防御拜占庭攻击的联邦学习图像分类方法

权利要求书

1.一种可防御拜占庭攻击的联邦学习图像分类方法，其特征在于，包括以下步骤：

步骤1、采用参数服务器结构建立基于联邦学习的图像分类模型，所述图像分类模型包括工作节点和服务器节点；所述工作节点用于训练工作节点模型得到工作节点模型参数，并运行训练得到的所述工作节点模型；所述服务器节点用于根据工作节点的节点模型参数查询并排除恶意工作节点，并根据所述工作节点模型参数控制所述工作节点的训练过程；所述工作节点模型为神经网络模型；

步骤2、所述服务器节点确定参与所述图像分类模型训练的工作节点集合W、参与迭代训练的工作节点数量K、所述工作节点模型参数的分布区间的数量L及最小长度d'，每轮迭代恶意攻击者的数量A，以及迭代次数t的最大值并将当前迭代次数设置为初始值1；

步骤3、所述服务器节点从所述工作节点集合W中随机选取K个工作节点参与本轮基于联邦学习的图像分类模型的训练，并将全局模型参数ω_t发送至每个被选中的工作节点；工作节点根据所述全局模型参数ω_t更新节点模型参数后，对预先收集的、保存在本地的图像样本数据进行归一化预处理得到训练数据D_t,k，并将训练数据D_t,k输入到节点模型中，用训练样本数据完成工作节点模型的训练，通过反向传播计算更新出节点模型参数ω_t,k，并将新的节点模型参数ω_t,k及所述训练样本数据的数据量n_t,k发送至所述服务器节点；

步骤4、当所述服务器节点接收到所有所述节点模型参数后，计算各工作节点的总信息熵、局部信息熵及信息熵增益，工作节点的信息熵增益为工作节点的总信息熵与局部信息熵的差值，并根据工作节点的信息熵增益确定并剔除可能的攻击节点；令迭代次数自加1；

步骤5、服务器节点根据剔除了恶意节点后剩余的工作节点的节点模型参数信息计算并更新全局模型参数，若当前迭代次数小于最大迭代次数，则执行步骤3；若当前迭代次数大于或等于最大迭代次数，则说明基于联邦学习的图像分类模型训练完毕，执行步骤6；

步骤6、采用训练得到的基于联邦学习的图像分类模型完成待分类图像的分类处理。

2.根据权利要求1所述的方法，其特征在于，所述步骤4中所述工作节点的总信息熵的计算过程，包括以下步骤：

步骤2.1、所述服务器节点从所述节点模型参数中提取出各工作节点模型中所选中的一层神经网络的参数，用K个工作节点的神经网络的第n个(1≤n≤N)参数形成参数向量为X_n＝[x_1,n,x_2,n,…,x_k,n,…x_K,n]，其中，x_k,n为第k个工作节点的神经网络的第n个参数，由N个参数向量组成参数集合X，X＝[X₁,X₂,…X_n,…,X_N]；

步骤2.2、根据所述参数向量X_n中的最大值x_n,max、最小值x_n,min及所述步骤1中确定的分布区间的数量L，计算得到参数向量X_n的分布区间L_n,1,L_n,2,…L_n,l,…L_n,L，每个区间的长度d_n均相等，即：

若d_n≥d'，则参数n的第l个区间L_n,l的区间取值范围为：

L_n,l＝[x_n,min+(l-1)×d_n,x_n,min+l×d_n]；

若d_n＜d'，则执行步骤2.4；

步骤2.3、根据所述步骤2.2中得到的所述区间取值范围，将所有工作节点的第n个参数X_n＝[x_1,n,x_2,n,…,x_k,n,…x_K,n]根据取值大小划分到对应的区间中；若(x_n,min+(j-1)×d_n)≤x_k,n＜(x_n,min+j×d_n)成立，则将参数x_k,n划分到第j个分布区间L_n,j中；各分布区间所包含的参数的数量为N_n＝[c_n,1,c_n,2,…,c_n,l,…,c_n,L]，其中，c_n,l为所有工作节点的第n个参数中落在第l个分布区间内的数量；参数落在各分布区间的概率为P_n＝[p_n,1,p_n,2,…,p_n,l,…,p_n,L]，其中，p_n,l为所有工作节点的参数n落在第l个分布区间内的概率，

所述服务器节点采用如下公式计算工作节点的第n个参数的信息熵h_n：

以及工作节点的总信息熵H：

步骤2.4、当前迭代中第n个参数的信息熵h_n取值为0，令n自加1，若n≤N则执行步骤2.1，否则结束本流程。