[发明专利]基于差分隐私置乱模型的联邦协同蒸馏方法及系统

权利要求书

1.一种基于差分隐私置乱模型的联邦协同蒸馏方法，包括：

联邦服务器通过无放回子采样方法对M个客户端进行随机采样，得到N个参与联邦训练的客户端，其中，M和N均为正整数，NM；

所述联邦服务器生成密钥和公共无标签数据集，并将所述密钥和所述公共无标签数据集发送到所述N个参与联邦训练的客户端；

每个所述参与联邦训练的客户端利用自身的本地数据集对自身的本地分类器进行训练，得到N个训练完成的本地分类器；

每个所述训练完成的本地分类器对所述公共无标签数据集进行预测，得到预测结果，并将所述预测结果进行加密后上传到混淆器中；

所述混淆器利用shuffle方法对来自所述N个参与联邦训练的客户端的预测结果进行匿名和乱序处理，并将得到的N个处理结果上传到所述联邦服务器中，其中，所述shuffle方法用于实现隐私放大；

所述联邦服务器将所述N个处理结果进行解密和聚合处理，得到软标签，并将所述软标签传输到下一轮参与联邦训练的客户端中，其中，所述软标签作为所述公共无标签数据集的标签。

2.根据权利要求1所述的方法，其中，所述联邦服务器生成密钥和公共无标签数据集，并将所述密钥和所述公共无标签数据集发送到所述N个参与联邦训练的客户端包括：

所述联邦服务器对联邦训练的轮次进行判断，得到判断结果；

所述联邦服务器生成所述密钥和所述公共无标签数据集；

所述联邦服务器对所述公共无标签数据集进行聚类处理，得到聚类后的无标签数据集；

在所述判断结果是首轮联邦训练的情况下，通过所述联邦服务器将所述密钥和所述聚类后的无标签数据集发送到所述N个参与联邦训练的客户端中；

在所述判断结果不是首轮联邦训练的情况下，所述联邦服务器将上一轮联邦训练的软标签、所述密钥以及所述聚类后的无标签数据集发送所述N个参与联邦训练的客户端中。

3.根据权利要求2所述的方法，其中，所述联邦服务器对所述公共无标签数据集进行聚类处理，得到聚类后的无标签数据集包括：

所述联邦服务器利用卷积神经网络对所述公共无标签数据集进行特征提取，得到提取结果；

所述联邦服务器利用K平均聚类方法对所述提取结果进行聚类，得到聚类后的无标签数据集；

其中，所述聚类后的无标签数据集与所述参与联邦训练的客户端的本地数据集具有相同的数据类型。

4.根据权利要求1所述的方法，其中，每个所述参与联邦训练的客户端利用自身的本地数据集对自身的本地分类器进行训练，得到N个训练完成的本地分类器包括：

所述参与联邦训练的客户端通过所述联邦服务器获取联邦训练的轮次信息；

在所述轮次信息是首轮联邦训练的情况下，所述参与联邦训练的客户端将自身的本地数据集作为训练数据集，并用于对自身的本地分类器进行训练，得到训练完成的本地分类器；

在所述轮次信息不是首轮联邦训练的情况下，所述参与联邦训练的客户端将上一联邦训练轮次中从所述联邦服务器发送过来的软标签作为接收到的所述公共无标签数据集的标签，将带有软标签的公共数据集加入到所述本地数据集中，并利用新的本地数据集训练所述本地分类器，得到训练完成的本地分类器。

5.根据权利要求1所述的方法，其中，每个所述训练完成的本地分类器对所述公共无标签数据集进行预测，得到预测结果，并将所述预测结果进行加密后上传到混淆器中包括：

所述参与联邦训练的客户端利用自身训练完成的本地分类器对所述公共无标签数据集进行预测，得到预测结果；

所述参与联邦训练的客户端获取联邦服务器的聚类结果，并根据所述聚类结果对所述预测结果进行平滑和隐私处理，得到处理结果；

所述参与联邦训练的客户端利用所述密钥对所述处理结果进行加密，并将加密后的预测结果上传到所述混淆器中。