[发明专利]联邦学习的全局及局部梯度处理方法、装置、设备和介质

权利要求书

1.一种联邦学习的全局梯度处理方法，其特征在于，应用于边缘服务器，所述边缘服务器属于空中联邦边缘学习系统，所述空中联邦边缘学习系统还包括K个边缘设备，其中K≥0，所述方法包括：

接收预设时频块上传输的第n次迭代训练的聚合信号，所述聚合信号为联邦学习中多个边缘设备同时通过所述预设时频块发送局部梯度时叠加产生的，所述局部梯度为边缘设备根据所述边缘服务器在第n-1次迭代训练时广播的全局梯度更新本地模型后得到的；其中，所述n为大于或等于2的整数；边缘设备用于在边缘服务器的协调下，通过无线更新，聚合协作训练共享的机器学习模型；

根据所述聚合信号和所述联邦学习中边缘设备的数量，获取所述联邦学习第n次迭代训练的全局梯度；

广播所述全局梯度，以便于所述多个边缘设备根据所述第n次迭代训练的全局梯度对本地模型进行再次更新；

所述联邦学习的全局梯度处理方法至少能够应用于无线通信技术领域；

所述聚合信号为

且

所述第n次迭代训练的全局梯度为

其中，表示第n次迭代训练中边缘设备k到边缘服务器的复数信道系数；为第n次迭代训练中边缘设备k的传输功率；为第n次迭代训练中边缘设备k的局部梯度；z⁽ⁿ⁾为加性高斯白噪声，服从z⁽ⁿ⁾～CN(0,N₀I)；N₀为噪声功率密度，I为单位矩阵；为边缘设备k的本地数据集，x_i和y_i为第i个样本的真实标签；f_i(w⁽ⁿ⁾)表示联邦学习模型w在样本x_i对于其标签y_i的预测误差的逐样本损失函数；R(w)为强凸正则化函数；超参数ρ≥0为缩放因子；n≤N，k≤K，N为总的迭代次数，K为联邦学习中边缘设备的总数量。

2.一种联邦学习的局部梯度处理方法，其特征在于，应用于边缘设备，所述边缘设备属于空中联邦边缘学习系统，所述空中联邦边缘学习系统包括K个所述边缘设备以及边缘服务器，其中K≥0，边缘设备用于在边缘服务器的协调下，通过无线更新，聚合协作训练共享的机器学习模型；所述方法包括：

根据联邦学习中的边缘服务器在第n-1次迭代训练时广播的全局梯度更新本地模型获取第n次迭代训练的局部梯度；其中，所述n为大于或等于2的整数；

采用预设时频块发送所述局部梯度，以便于所述边缘服务器接收所述预设时频块上传输的由联邦学习中多个边缘设备同时通过所述预设时频块发送局部梯度时叠加产生的聚合信号，进而根据该聚合信号确定第n次迭代训练的全局梯度；

所述联邦学习的局部梯度处理方法至少能够应用于无线通信技术领域；

获取功率优化函数，所述功率优化函数为：

其中，为第n次迭代训练中边缘设备k的传输功率，且n≤N，k≤K，N为总的迭代次数，K为联邦学习中边缘设备的总数量；η为学习率，μ为常数；F⁽ⁿ⁾为第n次迭代训练的全局损失函数；F^*为全局损失函数的最小值；L为非负向量；q为联邦学习模型的大小；表示第n次迭代训练中边缘设备k到边缘服务器的复数信道系数；σ为非负常数向量；

根据优化条件对所述功率优化函数进行优化，获取在所述优化条件下所述功率优化函数取得最优解或者次优解时的所述优化条件为：

其中，为边缘设备k的最大传输功率；为边缘设备k的平均传输功率；

在第n次迭代训练中边缘设备k采用发射功率发射所述局部梯度。

3.一种电子设备，其特征在于，包括第一存储器和第一处理器；其中，所述第一存储器用于存储一条或多条计算机指令，其中，所述一条或多条计算机指令被所述第一处理器执行以实现权利要求1所述的方法步骤。

4.一种电子设备，其特征在于，包括第二存储器和第二处理器；其中，所述第二存储器用于存储一条或多条计算机指令，其中，所述一条或多条计算机指令被所述第二处理器执行以实现权利要求2所述的方法步骤。