[发明专利]一种结合个性化差分隐私的联邦学习方法和系统

权利要求书

1.一种结合个性化差分隐私的联邦学习方法，其特征在于，应用于用户端，所述用户端为服务端选择的参与本轮训练的用户端，所述方法包括：

接收所述服务端发送的本轮全局模型；

在接收到所述本轮全局模型后，使用隐私预算分配机制，得到本轮的隐私参数；

基于所述本轮的隐私参数，使用采样机制，对本地数据集进行采样；

在采样后的数据集上对所述本轮的全局模型进行训练，得到本轮的本地模型更新；

应用高斯机制对所述本地模型更新进行加噪处理，得到加噪处理后的本地模型更新；

将所述加噪处理后的本地模型更新上传至所述服务端，以使所述服务端基于所述加噪处理后的本地模型更新得到更新后的全局模型。

2.根据权利要求1所述的方法，其特征在于，所述在接收到所述本轮全局模型后，使用隐私预算分配机制，得到本轮的隐私参数，包括：

基于所述用户端的隐私预算剩余、训练轮数以及在上一轮训练中得到的更新的本地模型的2范数，在本地进行隐私预算分配，得到本轮的隐私参数。

3.根据权利要求1所述的方法，其特征在于，所述基于所述本轮的隐私参数，使用采样机制，对本地数据集进行采样，包括：

基于隐私参数阈值与所述本轮的隐私参数的关系，设置采样概率，并使用所述采用概率对本地数据集进行采样。

4.根据权利要求1所述的方法，其特征在于，所述在采样后的数据集上对所述本轮的全局模型进行训练，得到本轮的本地模型更新，包括：

在采样后的数据集上，使用梯度下降的方法对所述本轮的全局模型进行训练，得到本轮的本地模型更新。

5.根据权利要求1所述的方法，其特征在于，所述将所述加噪处理后的本地模型更新上传至所述服务端，以使所述服务端基于所述加噪处理后的本地模型更新得到更新后的全局模型，包括：

将所述加噪处理后的本地模型更新上传至所述服务端，以使所述服务端将接收到的所述加噪处理后的本地模型更新求均值后，加到所述全局模型中，得到更新后的全局模型。

6.一种结合个性化差分隐私的联邦学习系统，其特征在于，应用于用户端，所述用户端为服务端选择的参与本轮训练的用户端，所述系统包括：

接收模块，用于接收所述服务端发送的本轮全局模型；

隐私预算模块，用于在接收到所述本轮全局模型后，使用隐私预算分配机制，得到本轮的隐私参数；

采样模块，用于基于所述本轮的隐私参数，使用采样机制，对本地数据集进行采样；

训练模块，用于在采样后的数据集上对所述本轮的全局模型进行训练，得到本轮的本地模型更新；

处理模块，用于应用高斯机制对所述本地模型更新进行加噪处理，得到加噪处理后的本地模型更新；

上传模块，用于将所述加噪处理后的本地模型更新上传至所述服务端，以使所述服务端基于所述加噪处理后的本地模型更新得到更新后的全局模型。

7.根据权利要求6所述的系统，其特征在于，所述隐私预算模块具体用于：

基于所述用户端的隐私预算剩余、训练轮数以及在上一轮训练中得到的更新的本地模型的2范数，在本地进行隐私预算分配，得到本轮使用的隐私参数。

8.根据权利要求6所述的系统，其特征在于，所述采用模块具体用于：

基于隐私参数阈值与所述本轮的隐私参数的关系，设置采样概率，并使用所述采用概率对本地数据集进行采样。

9.根据权利要求6所述的系统，其特征在于，所述训练模块具体用于：

在采样后的数据集上，使用梯度下降的方法对所述本轮的全局模型进行训练，得到本轮的本地模型更新。

10.根据权利要求6所述的系统，其特征在于，所述上传模块具体用于：

将所述加噪处理后的本地模型更新上传至所述服务端，以使所述服务端将接收到的所述加噪处理后的本地模型更新求均值后，加到所述全局模型中，得到更新后的全局模型。