[发明专利]一种基于SIGMA协议的联邦学习贡献度评估方法

说明书

本发明公开一种基于SIGMA协议的联邦学习贡献度评估方法，训练方向各个参与方发送模型和不可篡改的可信执行程序和非交互SIGMA协议及相关参数；参与方利用本地数据集对模型训练得到梯度，运行可信执行程序，提取参与方的梯度，对模型进行更新，并运行测试模块测试新模型的准确率，计算该梯度的贡献度；参与方根据加密算法对梯度编码并加密，发送至训练方；参与方产生一个随机值，使用加密算法对其加密，随后将当前生成的所有密文输入哈希函数沙箱，输出哈希值，并计算出一个承诺；参与方上传承诺、密文和贡献度至训练方，训练方计算出哈希值并验证承诺，若验证通过，则将该梯度密文与其贡献度绑定记录在数据库中。该方法能够实现不泄露隐私的梯度证明。

技术领域

本发明涉及联邦学习和密码学领域，具体涉及一种基于SIGMA协议的联邦学习贡献度评估方法。

背景技术

谷歌公司于2016年首次提出联邦学习，其过程为，模型训练方将训练任务交付给多个拥有本地数据集的参与方，由各个参与方对待训练模型进行训练，产生梯度并上传至模型训练方，模型训练方对梯度聚合以更新模型。该概念下的联邦学习的优势在于充分利用了每个参与方的本地数据集进行全局模型的训练，且不必直接获取这些可能包含隐私的数据集。但问题在于，梯度与训练数据之间具有一定的关联性，模型训练方可以从上传的梯度中推断出训练数据集的相关信息。因此，如何在不泄露梯度信息的前提下模型训练方可以获得最后的聚合梯度且保证上传的梯度信息是正确的，是一个热门的研究内容。CN111552986B中提出了一种基于区块链的联邦建模方法，使用同态加密隐藏上传的梯度并对训练数据执行审计工作，但未能构建梯度和贡献度的对应关系，可能造成部分较差的参与方无意地损害聚合模型。CN111797142A中提供了一种基于区块链上智能合约的实时审计方案，其需要一定的交互过程，造成了不必要的工作量。

总的来说，现有技术的问题在于：1)在联邦学习中缺少一个不泄露隐私的贡献度评估方法；2)审计过程多为交互过程，给审计带来了较大的工作量。

发明内容

针对现有技术的不足，本发明提出一种基于SIGMA协议的联邦学习贡献度评估方法，该方法中，模型训练方会预先构建一个可信执行程序分发给各参与方，在梯度加密前在本地对梯度进行贡献度评估，为了防止上传的梯度及其贡献度不对应，参与方需要遵循非交互SIGMA协议额外生成一个梯度的承诺，以此将梯度及其贡献度进行绑定记录。

本发明的目的通过如下的技术方案来实现：

一种基于SIGMA协议的联邦学习贡献度评估方法，该方法包括如下步骤：

步骤一：模型训练方向各个参与模型训练的参与方发送当前批次的模型、模型参数、不可篡改的可信执行程序和非交互SIGMA协议及相关参数；所述可信执行程序包含测试模块和哈希函数沙箱H(x)；

步骤二：参与方利用本地数据集对模型训练得到梯度，运行可信执行程序，由可信执行程序提取参与方的梯度，并使用梯度对模型进行更新，运行可信执行程序中的测试模块测试新模型的准确率，然后计算该梯度的贡献度；

步骤三：参与方根据非交互SIGMA协议的加密算法对可信执行程序提取的梯度进行编码得到x_i，并使用加密算法的两个生成元分别对其加密得到x_iG、x_iH，发送至模型训练方；

步骤四：参与方产生一个随机值，对该随机值进行编码得到v_i，再次使用协议中加密算法的两个生成元分别对其加密得到v_iG、v_iH，参与方随后将当前生成的所有密文输入可信执行程序中的哈希函数沙箱H(x)，由沙箱输出哈希值c，并使用公式Com_i＝v_i-x_ic生成承诺Com_i；