[发明专利]基于去中心化安全聚合的轻量级联邦学习隐私保护方法

说明书

本发明涉及一种基于去中心化安全聚合的轻量级联邦学习隐私保护方法，属于数据隐私保护技术领域。在用户侧利用边缘节点和联盟区块链构建一个安全的去中心化聚合平台，在该平台上协同进行聚合过程。每个用户对局部模型进行分割，并将其分别发送到每个连接的边缘节点。每个用户生成一个全局随机数，并进行分割，分别共享到与其连接的边缘节点。然后，所有边缘节点进行安全去中心化聚合，每个用户会收到加有其自定义的全局随机数扰动的全局模型，参与聚合的边缘节点无法得知全局模型，而每个用户都能够去除添加的扰动，得到原有的全局模型。本方法无需加密操作就能实现隐私保护，在计算效率、模型准确性和对成员推理攻击的隐私保护方面优于现有技术。

技术领域

本发明涉及一种基于去中心化安全聚合的轻量级联邦学习隐私保护方法，旨在通过使用去中心化的安全聚合，实现用户侧轻量级训练，减轻传统的中央聚合器的隐私泄露威胁，属于数据隐私保护技术领域。

背景技术

近年来，联邦学习(Federated Learning，FL)作为一种新型的分布式学习框架被广泛应用。

联邦学习是在隐私保护的前提下，允许多个参与者利用本地数据协同训练统一的机器学习模型。在每一轮训练中，参与者根据自己的数据集分别获得局部模型，然后由一个中央聚合器进行聚合，该聚合器构建一个全局模型并将其发送给参与者进行下一轮训练。虽然联邦学习过程中没有公开用户的本地训练数据，但是训练参与者和聚合器之间频繁的参数共享会被恶意参与者利用，导致数据隐私泄露。

近年来，针对联邦学习的攻击层出不穷，其中，成员推理攻击是较为典型的一种攻击。成员推理攻击的目的，是训练攻击模型来推断训练数据集中是否存在数据记录。根据攻击者获得的先验知识，这些攻击大致分为局部攻击和全局攻击。通过观察局部模型更新的变化，恶意参与者可以在参与方发起局部攻击。全局攻击通常是由一个恶意的聚合器发起的，它通过隔离某个参与者，并向其发送一个精心构造的全局模型。由于受害者使用精心构造的全局模型训练局部模型，攻击者可以从局部模型更新中推断出更多的隐私信息。由此可见，成员推理攻击对联邦学习参与者数据集隐私造成了巨大威胁。

现有技术一般通过以下方法实现联邦学习隐私保护：

(1)通过在全局模型中添加差分隐私(Differential Privacy，DP)噪声来保护全局模型的隐私。

差分隐私的目的是在训练期间隐藏客户的贡献，可以保证全局模型的隐私不被参与者知道。

然而，这种方法却无法保护局部隐私，聚合器仍然可以获得所有局部模型，这将导致聚合器对局部隐私进行成员推断攻击，并且模型精度还会受到损害。

(2)利用同态加密(Homomorphic Encryption)技术来保护诚实但好奇的云服务器上的梯度。

但是，在每一轮训练中加密和解密操作带来了大量的加解密计算和通信成本。其在大规模环境中的应用成本较高，并且可能会影响机器学习模型的效率。

(3)通过利用秘密共享技术和增加随机扰动来保护局部模型的隐私。

同态哈希函数与伪随机技术集成作为可验证方法的底层结构，允许参与者在可接受的开销下验证云服务器执行的正确性。

然而，参与方较难负担起秘密共享计算和频繁的通信成本并且全局模型依然面临隐私泄漏的风险。

综上所述，联邦学习的隐私保护仍面临众多挑战。

发明内容

本发明的目的是为了克服现有技术存在的缺陷，为解决联邦学习隐私保护的技术问题，创造性地提出了一种基于去中心化安全聚合的轻量级联邦学习隐私保护方法。

本发明的创新点在于：在用户侧，利用边缘节点和联盟区块链构建一个安全的去中心化聚合平台。在该平台上，协同进行聚合过程。每个用户连接N个边缘节点，在局部进行模型分割。