[发明专利]用于联邦学习的安全审计装置、方法、系统以及介质

说明书

本公开提供了一种用于联邦学习的安全审计装置、方法、系统以及存储介质，其中的安全审计装置，应用于参与联邦学习的第一参与方系统中，包括：第一加解密单元，用于对第一联邦学习算法模块发送的样本数据进行加密，生成加密样本；第一外发审计验证单元，用于根据第一联邦学习算法模块发送的第一零知识证据，进行零知识证明、获得第一外发许可TOKEN；第一安全通信网关，用于基于第一外发许可TOKEN进行验证处理，如果验证通过，则向另一参与方系统发送加密样本和对应的加密信息。本公开的装置、方法、系统以及存储介质，可以为联邦学习提供过程审计和备案功能，及时拦截非法的、不合规的数据传输，避免意外的数据泄露，提高安全性。

技术领域

本发明涉及计算机技术领域，尤其涉及一种用于联邦学习的安全审计装置、方法、系统以及存储介质。

背景技术

联邦学习(Federated Learning)指的是多个数据拥有方在原始数据不出本地的情况下也可进行模型训练并得到最终模型的计算过程，并且保证模型效果与聚合训练效果的差距足够小。联邦学习突出的特点是在合作方法不泄露各自隐私数据的情况下，实现安全合作建模的目的，其主要形式包括横向联邦学习和纵向联邦学习。在纵向联邦学习场景下，联邦学习通常由一个主动方和若干个被动参与方构成。由于主动方和被动参与方见存在不信任和泄密问题，因此，双方在联邦学习过程中通常会使用同态加密、安全多方计算等密码学技术手段，从而确保发一方送给另一方的数据在对端是可以操作但是不能解密得到明文。但是，在实际应用中，由于存在各种人为和意外等不确定因素，从管理的角度而言联邦学习系统仍然可能存在泄密的风险。

发明内容

有鉴于此，本发明要解决的一个技术问题是提供一种用于联邦学习的安全审计装置、方法、系统以及存储介质。

根据本公开的第一方面，提供一种用于联邦学习的安全审计装置，应用于参与联邦学习的第一参与方系统中，包括：第一加解密单元，用于对第一联邦学习算法模块发送的样本数据进行加密，生成加密样本；第一外发审计验证单元，用于根据所述第一联邦学习算法模块发送的第一零知识证据，对所述加密样本进行零知识证明，用以获得与所述加密样本相对应的第一外发许可TOKEN；第一安全通信网关，用于基于所述第一外发许可TOKEN对所述第一联邦学习算法模块发送的所述加密样本和第一待验证TOKEN进行验证处理，如果验证通过，则向另一参与方系统发送所述加密样本和对应的加密信息。

可选地，第一密钥管理单元，用于生成同态加密密钥对，以及对应的第一密钥ID；所述第一加解密单元，还用于根据所述第一密钥ID获取所述同态加密密钥对，用以对所述样本数据进行加密。

可选地，所述第一零知识证据包括：所述第一密钥ID、随机数序列、所述加密样本和同态运算验证数据；所述第一外发审计验证单元，用于根据所述第一密钥ID获取所述同态加密密钥对，用以对所述随机数序列进行加密，获得随机数序列加密数据；使用所述同态加密密钥对，对所述加密样本和所述随机数序列加密数据进行同态运算，获得同态运算加密结果；如果所述同态运算加密结果与所述同态运算验证数据相同，则确定零知识证明成功，生成所述第一外发许可TOKEN，并在第一备案数据库中存储所述加密样本的第一哈希值与对应的所述第一外发许可TOKEN。

可选地，所述第一安全通信网关，用于接收所述第一联邦学习算法模块发送的所述加密样本、第一待验证TOKEN和所述同态加密密钥对的公钥；生成所述加密样本的第一待验证哈希值；如果在第一备案数据库中能够获取与所述第一待验证TOKEN相同的第一外发许可TOKEN，则基于此第一外发许可TOKEN在所述第一备案数据库中获取对应的第一哈希值，如果此第一哈希值与所述第一待验证哈希值相同，则验证通过，发送所述加密样本和所述公钥。

可选地，第一过程备案模块，用于将所述第一零知识证据以及对应的零知识证明结果存储在所述第一备案数据库中。