[发明专利]一种基于区块链的联邦学习方法和系统在审
| 申请号: | 202210068502.2 | 申请日: | 2022-01-20 |
| 公开(公告)号: | CN114418134A | 公开(公告)日: | 2022-04-29 |
| 发明(设计)人: | 张暐;马利 | 申请(专利权)人: | 广州广电运通金融电子股份有限公司 |
| 主分类号: | G06N20/20 | 分类号: | G06N20/20;G06F21/60 |
| 代理公司: | 杭州创智卓英知识产权代理事务所(普通合伙) 33324 | 代理人: | 廖青松 |
| 地址: | 510000 广东省广州市*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 基于 区块 联邦 学习方法 系统 | ||
1.一种基于区块链的联邦学习方法,其特征在于,包括:
多个共识节点根据样本数据对联邦模型进行训练,分别得到对应的第一梯度值并发送到协调端;
所述协调端将接收到的多个所述第一梯度值进行聚合处理,得到第二梯度值并分发到各个所述共识节点,以使各个所述共识节点基于所述第二梯度值对所述联邦模型进行参数更新;
判定更新后的联邦模型是否满足终止条件,若是则终止训练,若否则再次进行训练。
2.根据权利要求1所述的基于区块链的联邦学习方法,其特征在于,多个所述共识节点在分别得到所述第一梯度值后,还执行以下操作:
每个所述共识节点对所述第一梯度值进行拆分操作,得到预定个数的梯度子值;每个所述共识节点保留其中一个所述梯度子值,并将其余的梯度子值分别发送到其他共识节点中;所述预定个数小于或等于共识节点的数量;
每个所述共识节点将保留的以及接收到的梯度子值进行合成操作,生成第三梯度值作为新的第一梯度值。
3.根据权利要求2所述的基于区块链的联邦学习方法,其特征在于,共识节点之间传输梯度子值时、以及共识节点与协调端之间传输所述第一梯度值或所述第二梯度值时,对于传输的数据采用同态加密算法进行加密;其中,
各个共识节点以及协调端分别存储有其他节点的用于加密的公钥以及当前节点的用于解密的私钥;在发送数据到某一节点时,使用对应节点的公钥对数据进行加密;在接收到其他节点发送的数据时,使用当前节点的私钥对数据进行解密。
4.根据权利要求1所述的基于区块链的联邦学习方法,其特征在于,在进行训练前,将联邦学习的各参与方注册成为区块链系统上的节点;所述节点包括协调端和至少一个共识节点;其中,所述协调端建立包含联邦模型的初始信息的智能合约;所有所述共识节点从所述协调端获取联邦模型的所述初始信息。
5.根据权利要求1所述的基于区块链的联邦学习方法,其特征在于,在终止训练后,还包括:
各个共识节点对各自的联邦模型就行参数微调,得到对应的个性化联邦模型。
6.根据权利要求1所述的基于区块链的联邦学习方法,其特征在于,所述联邦模型为基于梯度信息或海森矩阵信息优化的参数模型。
7.根据权利要求1所述的基于区块链的联邦学习方法,其特征在于,还包括:
迁移学习:以协调端的联邦模型的模型参数为源域,以共识节点的本地模型的模型参数为目标域进行迁移学习,其中在用于迁移学习的目标函数中设计源域与目标域分布的差异。
8.一种基于区块链的联邦学习系统,其特征在于,包括:
多个共识节点,用于根据样本数据对联邦模型进行训练,分别得到对应的第一梯度值并发送到协调端;
协调端,用于将接收到的多个所述第一梯度值进行聚合处理,得到第二梯度值并分发到各个所述共识节点;以使各个所述共识节点基于所述第二梯度值对所述联邦模型进行参数更新,并判定更新后的联邦模型是否满足终止条件,若是则终止训练,若否则再次进行训练。
9.根据权利要求8所述的基于区块链的联邦学习系统,其特征在于,多个所述共识节点在分别得到所述第一梯度值后,还执行以下操作:
每个所述共识节点对所述第一梯度值进行拆分操作,得到预定个数的梯度子值;每个所述共识节点保留其中一个所述梯度子值,并将其余的梯度子值分别发送到其他共识节点中;所述预定个数小于或等于共识节点的数量;
每个所述共识节点将保留的以及接收到的梯度子值进行合成操作,生成第三梯度值作为新的第一梯度值。
10.根据权利要求9所述的基于区块链的联邦学习系统,其特征在于,共识节点之间传输梯度子值时、以及共识节点与协调端之间传输所述第一梯度值或所述第二梯度值时,对于传输的数据采用同态加密算法进行加密;其中,
各个共识节点以及协调端分别存储有其他节点的用于加密的公钥以及当前节点的用于解密的私钥;在发送数据到某一节点时,使用对应节点的公钥对数据进行加密;在接收到其他节点发送的数据时,使用当前节点的私钥对数据进行解密。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州广电运通金融电子股份有限公司,未经广州广电运通金融电子股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210068502.2/1.html,转载请声明来源钻瓜专利网。





