[发明专利]一种基于区块链的联邦学习方法和系统

说明书

本发明涉及智能网络模型，尤其涉及一种基于区块链的联邦学习方法和系统。一种基于区块链的联邦学习方法，包括：多个共识节点根据样本数据对联邦模型进行训练，分别得到对应的第一梯度值并发送到协调端；所述协调端将接收到的多个所述第一梯度值进行聚合处理，得到第二梯度值并分发到各个所述共识节点，以使各个所述共识节点基于所述第二梯度值对所述联邦模型进行参数更新；判定更新后的联邦模型是否满足终止条件，若是则终止训练，若否则再次进行训练。相比于传统的串行的联邦学习方法，则可以显著的节约时间，再者，各个共识节点都是平等的记录和计算，不依赖于初始节点的诚实性，可以提升训练过程中的安全性。

技术领域

本发明涉及智能网络模型，尤其涉及一种基于区块链的联邦学习方法和系统。

背景技术

在传统的横向联邦模式下，中央服务器将初始模型发送给每个参与者，参与者使用自己的数据集训练模型，并将模型中的权重更新发送给中央服务器。中央服务器聚合从参与者接收的模型进行更新，并将聚合的模型更新再次发送给参与者。整个过程将重复进行，直到模型收敛，达到预设最大迭代次数或最长训练时间。

在区块链系统中，所有节点都平等地参与数据记录，上链数据对所有节点都是公开透明的，具有可追踪的特点。此外，分布式的存储机制将数据进行多次备份，可以避免因单点故障造成的数据丢失，从而保证数据的安全性。由于联邦学习具有分布式、本地计算等特征，与区块链所具有的去中心化、分布式计算等特征有诸多相似之处，与区块链相融合是一大技术趋势。在区块链上的联邦场景中，学习方法较少，公开好为CN 112801307 A的专利文献公开了一种区块链上联邦学习方法，主要方案为“第一个共识节点对联邦模型进行训练，获取梯度值，并加密后发送至区块链系统；从第二个共识节点开始，共识节点按预设顺序获取前一个共识节点的梯度值并进行解密，将解密后的梯度值与本节点对联邦模型进行训练获取的梯度值相加后再次进行加密后发送至区块链，直至最后一个共识节点发送最新加密后的梯度值至区块链；第一个共识节点将最后一个共识节点发送至区块链的加密后的梯度值进行解密，获取最终梯度值，并发送至所述区块链”，该方案存在以下不足：

1)违反平等性原则。区块链上的联合建模中，起始的共识节点掌握了全部节点的梯度聚合信息，不符合区块链和联邦学习的平等性原则，少数节点掌握了大量的信息。

2)效率低下。在共识节点上重复串行的加密、解密梯度信息，一个节点上的梯度计算依赖于上一个节点的计算，没有充分利用区块链互联互通的特性。

3)安全性低下。初始共识节点挑选是随机的，如果挑选不当，比如是不诚实的参与者，那么可能会导致模型训练失败或者信息泄漏。

这些问题会在实际中带来严重的应用限制。

发明内容

鉴于上述现有技术的不足之处，本发明的目的在于提供一种基于区块链的联邦学习方法和系统，用于解决背景技术中提到的技术问题。

为了达到上述目的，本发明采取了以下技术方案：

一方面，本发明提供一种基于区块链的联邦学习方法，包括：

多个共识节点根据样本数据对联邦模型进行训练，分别得到对应的第一梯度值并发送到协调端；

所述协调端将接收到的多个所述第一梯度值进行聚合处理，得到第二梯度值并分发到各个所述共识节点，以使各个所述共识节点基于所述第二梯度值对所述联邦模型进行参数更新；

判定更新后的联邦模型是否满足终止条件，若是则终止训练，若否则再次进行训练。

优选的，多个所述共识节点在分别得到所述第一梯度值后，还执行以下操作：

每个所述共识节点对所述第一梯度值进行拆分操作，得到预定个数的梯度子值；每个所述共识节点保留其中一个所述梯度子值，并将其余的梯度子值分别发送到其他共识节点中；所述预定个数小于或等于共识节点的数量；