[发明专利]联邦学习方法、装置、电子设备及计算机可读存储介质

说明书

本公开提供了一种联邦学习方法、装置、电子设备及计算机可读存储介质，涉及机器学习技术领域。该方法包括：获取串联顺序，串联顺序用于指示任一边缘节点对应的下一个节点；接收任一边缘节点的上一个节点发送的第一模型；根据第一模型进行本地训练，得到第二模型；聚合第二模型和第一模型，得到第三模型；向下一个节点发送第三模型，以便于下一个节点根据第三模型进行本轮联邦学习。向下一个节点发送第二模型和第一模型聚合后的第三模型的方式，可以避免边缘节点经过训练后得到的第二模型的模型参数泄露，实现了在无需为训练样本或模型参数添加噪声的情况下，降低边缘节点数据样本泄露的风险。

技术领域

本公开涉及机器学习技术领域，尤其涉及一种联邦学习方法、装置、电子设备及计算机可读存储介质。

背景技术

在机器学习技术领域中，联邦学习通过中心节点与边缘节点协同训练模型方式，在保护边缘节点数据隐私的同时，实现了对数据的高效利用。但是，仅采用模型在本地训练从而使样本数据不出本地的措施，仍然会有数据泄露的风险，攻击者可以通过截获边缘节点上传的模型参数来推测样本数据。

相关技术中，通常采用差分隐私等隐私保护方法，即通过向模型参数或数据本身添加噪声来降低数据泄漏的风险。

然而，向模型参数或数据中添加噪声的方式虽然在一定程度上降低了数据泄露的风险，同时也使得节点上传的模型参数的质量下降，进而使得联邦学习所得到的模型精度下降。

需要说明的是，在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

本公开提供一种联邦学习方法、装置、电子设备及计算机可读存储介质，至少在一定程度上克服了相关技术中联邦学习得到的模型精度差的问题。

本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本公开的实践而习得。

根据本公开的一个方面，提供一种联邦学习方法，应用于参与联邦学习的多个边缘节点中的任一边缘节点，包括：获取串联顺序，所述串联顺序用于指示所述任一边缘节点对应的下一个节点，所述下一个节点是所述多个边缘节点中的一个边缘节点，或者是联邦学习的中心节点；接收所述任一边缘节点的上一个节点发送的第一模型，所述上一个节点是所述多个边缘节点中的一个节点，或者是所述中心节点；根据所述第一模型进行本地训练，得到第二模型；聚合所述第二模型和所述第一模型，得到第三模型；向所述下一个节点发送所述第三模型，以便于所述下一个节点根据所述第三模型进行本轮联邦学习。

在本公开的一个实施例中，还包括：获取对所述第一模型进行本地训练得到的训练参数；向区块链上传所述训练参数，以便于所述中心节点从所述区块链中获取所述训练参数，并根据所述训练参数确定所述任一边缘节点在本轮联邦学习的训练分。

在本公开的一个实施例中，所述训练参数包括所述第二模型的性能指标和/或所述任一边缘节点对所述第一模型进行本地训练的相对效率参数；所述相对效率参数包括所述任一边缘节点对所述第一模型进行本地训练使用的时间和数据量，或者包括根据所述时间和数据量计算得到的相对效率。

在本公开的一个实施例中，所述获取串联顺序，包括：从区块链中获取所述串联顺序。

在本公开的一个实施例中，获取所述任一边缘节点的性能参数；向区块链上传所述性能参数，以便于所述中心节点从所述区块链中获取所述性能参数，并根据所述性能参数确定参与第一轮联邦学习的边缘节点。

在本公开的一个实施例中，所述性能参数包括所述任一边缘节点具有的样本数据量和/或图形处理器GPU性能参数。