[发明专利]一种基于无中心流式联邦学习的隐私保护方法、系统及终端

权利要求书

1.一种基于无中心流式联邦学习的隐私保护方法，其特征在于，包括：

步骤1：基于边缘节点随机初始化模型参数和边缘节点利用前一轮次的最终模型参数预测得到的本轮先验模型参数，对本地模型进行更新；

步骤2：基于本地模型参数敏感度的校准结果添加噪声向量，对更新后的本地模型参数进行隐私保护；

步骤3：每个边缘节点将各自隐私保护后的参数共享给相邻边缘节点，并同时接收所有相邻边缘节点共享的参数；

步骤4：各边缘节点根据接收的所有相邻边缘节点的参数，更新自身的模型参数，得到后验模型参数；经过若干次的更新，各边缘节点逐步收敛得到相同的模型参数；

步骤5：基于间歇性交互方式进行节点参数交互，将训练轮次分为采样轮次和非采样轮次，在采样轮次各边缘节点重复步骤1到步骤4，在非采样轮次每个节点不进行广播通信，仅执行步骤1；从第1个轮次起，各边缘节点在采样轮次根据前后两个采样轮次模型更新后的模型参数变化情况自适应地调整下一次采样轮次的间隔，降低设备间通信频率及隐私预算消耗。

2.根据权利要求1所述的基于无中心流式联邦学习的隐私保护方法，其特征在于，所述基于边缘节点随机初始化模型参数和边缘节点利用前一轮次的最终模型参数预测得到的本轮先验模型参数，对本地模型进行更新，具体为：

在初始时刻，边缘节点随机初始化模型参数此后，在每个训练轮次每个时刻t，边缘节点其利用前一轮次t-1的模型参数预测本轮的先验模型参数，计算即时的损失函数值并利用梯度下降方法更新本地模型参数。

3.根据权利要求1所述的基于无中心流式联邦学习的隐私保护方法，其特征在于，所述基于本地模型参数敏感度的校准结果添加噪声向量，对更新后的本地模型参数进行隐私保护，具体为：

估计模型参数的梯度上界，并根据梯度上界计算模型参数的敏感度，并依据敏感度添加满足特定差分隐私级别的噪声向量，对更新后的本地模型参数进行隐私保护，即

其中，为时刻t的本地模型参数，为基于模型参数敏感度校准的隐私预算满足∈_t-差分隐私的噪声向量，噪声形态为拉普拉斯噪声或者高斯噪声。

4.根据权利要求1所述的基于无中心流式联邦学习的隐私保护方法，其特征在于，所述每个边缘节点将各自隐私保护后的参数共享给相邻边缘节点，并同时接收所有相邻边缘节点共享的参数，具体为：

各边缘节点将各自隐私保护后的参数通过广播方式共享给其所有的相邻节点N_j，并同时接收其邻居节点共享的参数。

5.根据权利要求1所述的基于无中心流式联邦学习的隐私保护方法，其特征在于，所述各边缘节点根据接收的所有相邻边缘节点的参数，更新自身的模型参数，得到后验模型参数；经过若干次的更新，各边缘节点逐步收敛得到相同的模型参数，具体为：

边缘节点i在接收到所有相邻边缘节点的参数，根据所有接收到的参数协同更新自身的模型参数，得到后验模型参数

其中，a_ij为邻接矩阵A＝[a_ij],i,j＝1,…,N的参数；

通过若干轮次的协同训练后，各个边缘节点通过不断的迭代和交互，融合得到一致的模型参数。