[发明专利]基于联邦学习的参数处理方法、装置和系统

说明书

本申请公开了一种基于联邦学习的参数处理方法、装置和系统，涉及大数据技术领域。具体实现方案为：分别确定第一电子设备相对于每个第二电子设备的掩码，其中，所述第一电子设备相对于任一第二电子设备的掩码，与所述第二电子设备相对于所述第一电子设备的掩码之间的和小于预设值；根据所述第一电子设备相对于每个第二电子设备的掩码，对梯度参数进行加密；将加密后的梯度参数发送给服务器，所述加密后的梯度参数用于指示所述服务器对联邦学习模型的全局模型参数进行更新。本申请实施例中不仅可以保护各电子设备的信息，而且可以保证联邦学习模型的可用性。

技术领域

本申请涉及数据处理领域，尤其涉及大数据技术领域。

背景技术

联邦学习(federated learning)是一种新兴的人工智能基础技术，其设计目标是在保障大数据交换时的信息安全、保护终端数据和个人数据隐私的前提下，在多参与方或多计算结点之间开展高效率的机器学习。

在联邦学习的过程中，各参与方或计算结点将梯度参数发送给服务器，服务器对接收到的梯度参数进行聚合，从而维持一个全局模型参数，各参与方或计算结点不断迭代更新该全局模型参数，直到最后模型收敛。现有技术中，为了保护各参与方或各计算结点的隐私，降低信息泄露的风险，各参与方或各计算结点可以对梯度参数进行加噪，并将加噪后的梯度参数发送给服务器。

然而，对梯度参数进行加噪时，增加的噪声越大，信息泄露的风险越低，但是，模型的可用性则越差，增加的噪声越小，信息泄露的风险则越高。因此，如何在保证模型可用性的同时，又能降低各参与方或各计算结点信息泄露的风险，是目前亟需解决的技术问题。

发明内容

本申请实施例提供一种基于联邦学习的参数处理方法、装置和系统，不仅可以保护各电子设备的信息，而且可以保证联邦学习模型的可用性。

第一方面，本申请实施例提供一种基于联邦学习的参数处理方法，该基于联邦学习的参数处理方法可以包括：

分别确定第一电子设备相对于每个第二电子设备的掩码，其中，所述第一电子设备相对于任一第二电子设备的掩码，与所述第二电子设备相对于所述第一电子设备的掩码之间的和小于预设值；

根据所述第一电子设备相对于每个第二电子设备的掩码，对梯度参数进行加密；

将加密后的梯度参数发送给服务器，所述加密后的梯度参数用于指示所述服务器对联邦学习模型的全局模型参数进行更新。

可以看出，与现有技术不同的是，本申请实施例中，由于第一电子设备向服务器发送的是加密后的梯度参数，因此，可以降低信息泄露的风险。而且第一电子设备相对于任一第二电子设备的掩码，与第二电子设备相对于第一电子设备的掩码之间的和小于预设值，这样，服务器在对联邦学习模型的全局模型参数进行更新时，对从所有电子设备接收到的加密后的梯度参数进行聚合后，各加密后的梯度参数中添加的掩码会发生抵消，从而可以减小对联邦学习模型的影响，由此可以保证联邦学习模型的可用性。

第二方面，本申请实施例还提供一种基于联邦学习的参数处理方法，该基于联邦学习的参数处理方法包括：

接收第一电子设备发送的加密后的梯度参数，所述加密后的梯度参数为所述第一电子设备根据所述第一电子设备相对于每个第二电子设备的掩码对梯度参数进行加密后得到的，其中，所述第一电子设备相对于任一第二电子设备的掩码，与所述第二电子设备相对于所述第一电子设备的掩码之间的和小于预设值；

根据所述加密后的梯度参数，对联邦学习模型的全局模型参数进行更新。