[发明专利]一种基于电力数据的联邦学习模型训练方法

权利要求书

1.一种基于电力数据的联邦学习模型训练方法，其特征在于，包括以下步骤：

服务器设定初始模型和训练参数并发送至客户端，训练参数包括服务器控制变量和总迭代次数；

客户端设定本地控制变量，基于本地控制变量、服务器控制变量和训练步骤对初始模型进行更新获得本地模型，对本地模型进行剪裁处理、加噪处理和加密处理获得密文模型；将密文模型和本地控制变量传输至服务器；

服务器根据密文模型获得聚合模型，判断当前迭代次数小于总迭代次数时，更新服务器控制变量，将聚合模型和更新后的服务器控制变量发送至客户端，将聚合模型作为初始模型在客户端开启新一轮的训练步骤；服务器判断当前迭代次数等于总迭代次数时，输出聚合模型。

2.如权利要求1所述的一种基于电力数据的联邦学习模型训练方法，其特征在于，更新服务器控制变量的步骤具体为：使用第一更新公式对服务器控制变量进行更新，第一更新公式如下：

其中，i表示第i个客户端，N表示参加训练的客户端的数量和，表示第i个客户端的本地控制变量，c′表示更新后的服务器控制变量。

3.如权利要求1或2所述的一种基于电力数据的联邦学习模型训练方法，其特征在于，根据密文模型获得聚合模型步骤具体为：根据聚合公式和密文模型获得聚合模型；聚合公式具体为：

其中，t表示第t次迭代，W^(t+1)表示第t+1次迭代时的聚合模型，[]表示该模型经加密处理，i表示第i个客户端，N表示参加训练的客户端的数量和，p_i表示第i个客户端的权重比，表示经过第t次迭代时第i个客户端的密文模型。

4.如权利要求3所述的一种基于电力数据的联邦学习模型训练方法，其特征在于，将密文模型和本地控制变量传输至服务器的步骤具体为：将本地电力数据集大小、密文模型和本地控制变量传输至服务器；本地电力数据集为客户端用于本地模型训练的电力数据集；

客户端的权重比根据以下公式获得：

D＝|D₁|+|D₂|+…+|D_i|

其中，D₁为第1个客户端的电力数据集大小，D₂为第2个客户端的电力数据集大小，D_i为第i个客户端的电力数据集大小，D为参加训练的所有客户端的电力数据集大小总和。

5.如权利要求1、2或4所述的一种基于电力数据的联邦学习模型训练方法，其特征在于，通过可信机构生成公钥和私钥，将公钥和私钥发送至参加训练的客户端；客户端使用公钥对传送至服务器的本地模型、电力数据集大小和本地控制变量进行加密。

6.如权利要求1、2或4所述的一种基于电力数据的联邦学习模型训练方法，其特征在于，训练步骤包括：将初始模型向前传播，并反向计算得到本地梯度；根据本地梯度、本地学习率、服务器控制变量和本地控制变量对初始模型进行更新获得本地模型，更新公式如下：

其中，W_i^(t)表示第t次迭代时第i个客户端的本地模型，表示第t次迭代时第i个客户端的初始模型，η_l表示本地学习率，g_i(W_i^(t))表示第t次迭代时第i个客户端的本地梯度，c_i表示第i个客户端的本地控制变量，c表示服务器控制变量；

对本地模型依次进行剪裁处理、加噪处理和加密处理，获得密文模型，更新本地控制变量。

7.如权利要求6所述的一种基于电力数据的联邦学习模型训练方法，其特征在于，剪裁处理的步骤具体为：使用自适应剪裁公式对本地模型进行剪裁，自适应剪裁公式如下：

其中，i表示第i个客户端，t表示第t次迭代，W_i^(t)表示第t次迭代时第i个客户端本地模型，表示第t次迭代时第i个客户端剪裁后的本地模型。