[发明专利]基于本地差分隐私的边缘联邦图像分类方法

说明书

本发明提出一种基于本地差分隐私的边缘联邦图像分类方法，实现步骤为：构建边缘联邦学习系统；本地参与方获取训练样本集和测试样本集；参数服务器为每个本地参与方构建图像分类模型；本地参与方初始化训练参数；边缘服务器设置边缘更新参数；本地参与方对图像分类模型的权重参数进行本地优化；边缘服务器获取边缘更新后的结果并发送；参数服务器获取全局更新后的结果并发送；本地参与方获取图像分类结果。本发明在对权重参数进行本地差分隐私扰动上传的过程中，只选取部分参数扰动上传，减小了引入的噪声，提高了模型的精度，同时通过先执行边缘聚合，再执行全局聚合，减少了与参数服务器的通信轮数，进而降低了系统的通信开销。

技术领域

本发明属于图像处理技术领域，涉及一种图像分类方法，具体涉及一种基于本地差分隐私的边缘联邦图像分类方法。

背景技术

图像分类问题是图像处理技术领域的核心问题之一，其目的是根据各自在图像信息中所反映的不同特征，把不同类别的目标区分开来。现在主要的图像分类方法是通过卷积神经网络训练图像分类模型来实现的，但是要训练出一个好的图像分类模型需要大量的图像数据。但是用户的图像数据往往包含了大量的敏感信息，所以进行卷积神经网络模型训练时的海量图像数据交互必然会带来隐私安全问题。

基于上述原因，需要一种隐私保护的方法来支持数据共享和模型训练，于是谷歌提出了联邦学习，其主要执行流程为：参数服务器为每个本地参与方构建模型并初始化，各参与方在本地更新模型参数，并将结果发送给参数服务器，参数服务器进行全局聚合后将结果发送给各参与方，然后进行新的一轮迭代，直到损失函数收敛或者达到允许的迭代次数。尽管联邦学习可以在一定程度上保护参与方的数据隐私安全，但是已有研究表明，攻击者能够通过上传的模型参数推理出参与方的原始数据，例如，半诚实的参数服务器可以根据上传的模型参数和特定的样本判断参与方的训练集是否包含该特定的样本，从而导致参与方的隐私泄露。

例如申请公布号为CN 113642664 A，名称为“基于联邦学习的隐私保护图像分类方法”的专利申请，公开了一种基于联邦学习的隐私保护图像分类方法，该方法步骤主要包括：服务器获取公共数据并预处理；服务器初始化并通过洗牌器下发数据至各客户端；客户端训练本地神经网络；洗牌器随机子采样客户端；子采样客户端预测公共数据，扰动并加密后发送给洗牌器；洗牌器伪造并随机排列预测后发送匿名预测给服务器；服务器聚合匿名预测并训练全局神经网络；服务器将训练好的全局神经网络下发至各客户端；客户端利用训练好的全局神经网络进行图像分类。

然而，由于联邦学习本身通信开销大，现有技术在训练过程中引入洗牌器进一步增加了通信开销。因此，需要一种能够降低通信开销的方法，而边缘计算具有低延迟和低带宽运行的优点，通过利用边缘服务器进行边缘聚合，减少本地参与方与参数服务器的通信轮数，可以有效地降低通信开销。同时，本地参与方的参数量大，如果全都使用差分隐私扰动后上传，会导致分配到每个参数上的隐私预算变小，引入的噪声变大，从而使得最终训练的模型精度变低。

发明内容

本发明的目的在于克服上述现有技术存在的缺陷，提出了一种基于本地差分隐私的边缘联邦图像分类方法，在保证训练数据隐私安全的同时，降低系统的通信开销和提高图像分类模型的精度。

为实现上述目的，本发明采取的技术方案包括如下步骤：

(1)构建边缘联邦学习系统：

构建包括参数服务器以及可与其通信的J个边缘服务器E＝{E_j|1≤j≤J}，每个边缘服务器E_j包括I个本地参与方P＝{P_j,i|1≤i≤I}的边缘联邦学习系统，其中，I≥2，J≥2，E_j表示第j个边缘服务器，P_j,i表示第j个边缘服务器E_j中的第i个本地参与方；

(2)本地参与方获取训练样本集和测试样本集：