[发明专利]信息处理方法、装置、设备、存储介质及程序产品

说明书

本发明公开了一种信息处理方法、装置、设备、存储介质及程序产品，该方法包括：获取服务器发送的第N次融合后的分类模型以及第N次融合后的特征生成模型；训练第N次的数据生成模型和第N次的特征提取模型，得到第N+1次的数据生成模型和第N+1次中第一次更新的特征提取模型；训练第N+1次中第一次更新的特征提取模型和第N次融合后的分类模型，得到第N+1次的分类模型和第N+1次中第二次更新的特征提取模型；通过对抗网络，训练第N次融合后的特征生成模型，使得特征生成模型的输出结果，逼近特征提取模型输出的结果。本发明实现在有效保护隐私前提下，提高本地模型的性能，使得输出结果更为准确。

技术领域

本发明涉及信息处理技术领域，尤其涉及一种信息处理方法、装置、设备、存储介质及程序产品。

背景技术

深度神经网络(Deep Neural Network，DNN)已经在许多领域取得了巨大的成功，包括计算机视觉、自然语言处理和推荐系统。它们的成功在很大程度上依赖于海量的训练数据。然而，在许多的场景中，训练数据通常分散在不同的组织。因为隐私和监管等问题，这些组织通常不愿意直接分享他们的数据。为了缓解这些问题，联邦学习(FederatedLearning，FL)被提出来。它使多个客户端(组织或终端设备，可以视为数据提供方)能够协同建立机器学习模型，而不泄露客户端的私人数据。

联邦学习拥有保护隐私的能力。其中，为了防止数据泄露并仍然享有联邦学习的好处，可以将拆分学习与联邦学习相结合，提出联邦拆分学习来保护隐私。具体地，联邦拆分学习将客户端的神经网络模型分成两部分，即私有特征提取器和公有分类器，并只与协调方(比如，服务器)共享公有分类器。然而，联邦拆分学习会有不可忽视的性能下降，因为私有模型没有通过联邦学习得到增强。因此，为了实现高水平的隐私保护，可以保留特征提取器在本地，以保护隐私。同时，它与服务器共享客户端的生成器，以代替提取器。

但是，上述方法中客户端在本地通用知识融合过程中，由于各个客户端对应的训练数据(包括特征和标签)属于非独立同分布数据，因此，上述方法在保护隐私前提下，存在数据非独立同分布的问题，使得每个客户端只能适用于本地的分布数据，无法覆盖更多的数据，进而导致客户端的本地模型的性能较低，使得输出结果准确度较低。

发明内容

本发明的主要目的在于提供一种信息处理方法、装置、设备、存储介质及程序产品，旨在实现在有效保护隐私前提下，提高本地模型的性能，使得输出结果更为准确。

为实现上述目的，本发明提供一种信息处理方法，所述方法应用于参与联邦学习的多个参与方中的数据提供方，用于训练得到特征生成模型和分类模型，将待预测图像依次输入特征生成模型和分类模型后，得到对应的分类结果；所述方法包括：

获取服务器发送的第N次融合后的分类模型以及第N次融合后的特征生成模型；其中，特征生成模型用于生成图像特征；

根据所述第N次融合后的特征生成模型和所述第N次融合后的分类模型，训练第N次的数据生成模型和第N次的特征提取模型，得到第N+1次的数据生成模型和第N+1次中第一次更新的特征提取模型，所述数据生成模型用于生成伪图像，所述特征提取模型用于提取图像特征；

根据第N+1次的数据生成模型生成的伪图像以及真实图像，训练第N+1次中第一次更新的特征提取模型和第N次融合后的分类模型，得到第N+1次的分类模型和第N+1次中第二次更新的特征提取模型，其中，分类模型用于根据图像特征确定对应的结果，所述第N+1次中第二次更新的特征提取模型作为第N+1次的特征提取模型；

以第N+1次的特征提取模型提取的图像特征作为真数据，以第N次融合后的特征生成模型生成的图像特征作为伪数据，通过对抗网络，训练第N次融合后的特征生成模型，使得特征生成模型的输出结果，逼近特征提取模型输出的结果。