[发明专利]一种缓解异构性问题的联邦学习方法

权利要求书

1.一种缓解异构性问题的联邦学习方法，其特征在于，包括：

S1：服务器从所有客户端的数据库中抽取部分本地样本组成辅助数据集；并随机初始化所有客户端的任务量和历史训练数据；服务器根据预设的每轮参与全局模型训练的客户端数量M从所有客户端中随机选取M个客户端作为第一客户端；将其余客户端作为第二客户端；

S2：服务器获取所有客户端的资源报告，根据客户端的资源报告生成客户端的特征向量；其中，所述客户端的资源报告包括：客户端的CPU时钟频率，带宽，内存以及能量；

S3：服务器将全局模型和第一客户端的任务量发送给第一客户端；第一客户端根据接收的任务量利用本地样本对全局模型进行训练获得本地模型，并将全局模型的训练数据和本地模型上传至服务器；服务器对所有第一客户端上传的本地模型进行聚合得到下一轮迭代训练的全局模型；

S4：服务器利用第一客户端上传的全局模型的训练数据对第一客户端的历史训练数据进行更新；

S5：服务器根据第一客户端的特征向量和第一客户端的历史训练数据利用LinUCB算法计算得到第一客户端的最终任务量；并用第一客户端的最终任务量更新第一客户端的任务量；

S6：服务器根据第一客户端向服务器上传的本地模型和预设的每轮参与全局模型训练的客户端数量利用辅助数据集重新划分下一轮全局模型迭代训练的第一客户端和第二客户端；并重复执行步骤S2-S6，直至达到预设的训练轮数为止，输出最终全局模型。

2.根据权利要求1所述的一种缓解异构性问题的联邦学习方法，其特征在于，所述全局模型的训练数据包括：第一客户端接收到全局模型的时间、第一客户端上传本地模型的时间、第一客户端上传本地模型时的传输功率、第一客户端与服务器之间的信道增益、第一客户端上传本地模型时的信号干扰、第一客户端本地样本的数量、第一客户端利用一个本地样本对全局模型进行一次训练需要的CPU周期数量以及全局模型的模型参数数量。

3.根据权利要求2述的一种缓解异构性问题的联邦学习方法，其特征在于，所述根据第一客户端的特征向量和第一客户端的历史训练数据利用LinUCB算法计算得到第一客户端的最终任务量包括：

S51：根据第一客户端的特征向量x_i,t和第一客户端的历史训练数据计算第一客户端的迭代训练时间和第一客户端的模型参数上传时间；

S52：根据第一客户端的迭代训练时间和第一客户端的模型参数上传时间利用LinUCB算法计算第一客户端的最终任务量。

4.根据权利要求3所述的一种缓解异构性问题的联邦学习方法，其特征在于，所述第一客户端的迭代训练时间和第一客户端的模型参数上传时间的计算步骤包括：

S511：根据第一客户端利用一个本地样本对全局模型进行一次训练需要的CPU周期数量和第一客户端的CPU周期频率计算第一客户端的迭代训练时间；

S512：根据全局模型的模型参数数量和第一客户端的带宽计算第一客户端的模型参数上传时间。

5.根据权利要求3所述的一种缓解异构性问题的联邦学习方法，其特征在于，所述第一客户端的最终任务量的计算步骤包括：

S521：根据第一客户端接收到全局模型的时间和第一客户端上传本地模型的时间判断第一客户端是否在预设的服务器最大等待时间内完成第一客户端的任务量；

S522：根据第一客户端对任务量的完成情况和第一客户端的特征向量利用LinUCB算法计算第一客户端的初始任务量；

S523：根据第一客户端的初始任务量、第一客户端的迭代训练时间、第一客户端的模型参数上传时间、预设的服务器最大等待时间和第一客户端本地样本的数量计算第一客户端的最终任务量。