[发明专利]双层公平联邦学习方法、装置和存储介质

权利要求书

1.一种双层公平联邦学习方法，其特征在于，包括如下步骤：

获取多个客户端的局部模型；

中央服务端对所有局部模型进行聚合处理，得到全局模型；

每一所述客户端分别依据所述全局模型对对应的局部模型进行约束处理，使对应的局部模型的模型参数接近所述全局模型的模型参数，以得到对应的新的局部模型；

所述中央服务端依据所有新的局部模型更新所述全局模型。

2.如权利要求1所述的双层公平联邦学习方法，其特征在于，所述获取多个客户端的局部模型，具体包括如下步骤：

每一客户端分别搜集对应的内部数据，所述内部数据为非独立同分布数据；

对每一客户端的内部数据进行模型训练，以构建对应的局部模型。

3.如权利要求1所述的双层公平联邦学习方法，其特征在于，所述中央服务端依据所有新的局部模型更新所述全局模型，之前还包括：

依据每一客户端的内部数据对对应的新的局部模型进行迭代训练。

4.如权利要求1所述的双层公平联邦学习方法，其特征在于，所述内部数据包括当前客户端的历史内部数据和最新的内部数据。

5.如权利要求1所述的双层公平联邦学习方法，其特征在于，所述每一所述客户端分别依据所述全局模型对对应的局部模型进行约束处理，使对应的局部模型的模型参数接近所述全局模型的模型参数，以得到对应的新的局部模型，具体包括：

依据所述全局模型对每一所述客户端对应的局部模型添加对应的修正变量，以使对应的局部模型的模型参数接近所述全局模型的模型参数，以得到对应的新的局部模型。

6.如权利要求5所述的双层公平联邦学习方法，其特征在于，将第i个客户端的损失函数定义为其中，W_i为第i个客户端对应的局部模型，X_i为第i个客户端的输入数据，Y_i为第i个客户端对应X_i的真实标签，F为中央服务端以基尼系数为测度的目标函数，f为客户端的目标函数，将第i个客户端的对应的局部模型对应的修正变量定义为则第i个客户端被约束处理后的损失函数为其中，W为全局模型。

7.如权利要求6所述的双层公平联邦学习方法，其特征在于，所述中央服务端依据公式将所有新的局部模型更新所述全局模型，其中，W^(t)为迭代第t次后的全局模型，W^(t+1)为迭代第t+1次后的全局模型，K为客户端的总数量，W_i^(t)为第i个客户端迭代第t次后对应的局部模型，λ为聚合参数。

8.如权利要求7所述的双层公平联邦学习方法，其特征在于，所述中央服务端依据所有新的局部模型更新所述全局模型，具体包括：

所述中央服务端依据所有新的局部模型以模型距离无关性或模型性能公平性更新所述全局模型；

所述中央服务端依据所有新的局部模型以模型距离无关更新所述全局模型时，所述中央服务端依据公式将所有新的局部模型更新所述全局模型，其中，D_i为W_i和W之间的距离；

所述中央服务端依据所有新的局部模型以模型性能公平性更新所述全局模型时，依据不同客户端的性能差异将λ定义为或其中，l_i为第i个客户端的损失，l为所有客户端的平均损失。

9.一种双层公平联邦学习装置，其特征在于，包括：

获取模块，用于获取多个客户端的局部模型；

聚合模块，用于中央服务端对所有局部模型进行聚合处理，得到全局模型；

约束模块，用于每一所述客户端分别依据所述全局模型对对应的局部模型进行约束处理，使对应的局部模型的模型参数接近所述全局模型的模型参数，以得到对应的新的局部模型；

更新模块，用于所述中央服务端依据所有新的局部模型更新所述全局模型。

10.一种存储介质，用于存储计算机程序，其特征在于：所述程序被处理器执行时实现如权利要求1～8中任一项所述的双层公平联邦学习方法。