[发明专利]基于区块链的异步联邦学习架构系统及方法在审
申请号: | 202211413352.0 | 申请日: | 2022-11-11 |
公开(公告)号: | CN115660114A | 公开(公告)日: | 2023-01-31 |
发明(设计)人: | 李晓丽;谷琼;徐德刚 | 申请(专利权)人: | 湖北文理学院 |
主分类号: | G06N20/20 | 分类号: | G06N20/20;G06F21/62;G06F16/27 |
代理公司: | 南京纵横知识产权代理有限公司 32224 | 代理人: | 董建林 |
地址: | 441053 湖*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 区块 异步 联邦 学习 架构 系统 方法 | ||
1.基于区块链的异步联邦学习架构系统,其特征是,包括区块链模块和多个参与异步联邦学习的参与方,所述区块链模块包括聚合合约单元、评分合约单元和激励合约单元;
所述参与方,用于读取区块链模块上的全局模型;对所述全局模型进行评分和梯度更新,得到相应的评分情况和本地梯度并上传至区块链模块;
所述聚合合约单元,用于根据本地梯度,基于异步联邦学习算法进行聚合,得到更新后的全局模型;
所述评分合约单元,用于统计多个参与方对于同一个全局模型的评分情况,得到同一个全局模型的评分列表;
所述激励合约单元,用于根据相邻两次更新的全局模型的评分列表,计算更新后的全局模型的泛化性提升率,并对相应的提供本地梯度的参与方进行奖惩措施。
2.根据权利要求1所述的基于区块链的异步联邦学习架构系统,其特征是,所述每一个参与方内设有算力单元和数据单元,
所述数据单元,用于存储本地数据和读取的全局模型;
所述算力单元,用于根据所述本地数据,对全局模型进行评分和梯度更新,得到相应的评分情况和本地梯度并上传至区块链模块。
3.根据权利要求2所述的基于区块链的异步联邦学习架构系统,其特征是,所述算力单元内设有自适应模型梯度选择机制的子单元;
所述自适应模型梯度选择机制的子单元,用于根据所述本地数据,对全局模型进行梯度更新,得到所有参数数据;基于自适应模型梯度选择机制筛选所述参数数据,得到相应的本地梯度。
4.根据权利要求1所述的基于区块链的异步联邦学习架构系统,其特征是,所述更新后的全局模型的表达式如下:
其中,Wt+τ+1为第t+τ+1时刻的全局模型;Wt+τ为第t+τ时刻的全局模型,为参与方根据第t-1时刻的全局模型得到的评分情况,β是学习率,γ是延迟超参数。
5.根据权利要求1所述的基于区块链的异步联邦学习架构系统,其特征是,所述延迟超参数γ的表达式如下:
其中,a为线性参数且a0;τ-t为时刻。
6.根据权利要求1所述的基于区块链的异步联邦学习架构系统,其特征是,所述泛化性提升率的表达式如下:
其中,RG为泛化性提升率;Accu(Wt+1)i为第i个参与方对第t+1时刻的全局模型Wt+1的评分情况;S1为对第t+1时刻的全局模型Wt+1进行评分的所有参与方的集合;|S1|为对第t+1时刻的全局模型Wt+1进行评分的所有参与方的数量;Accu(Wt)j为第j个参与方对第t时刻的全局模型Wt的评分情况;S2为对第t时刻的全局模型Wt进行评分的所有参与方的集合;|S2|为对第t时刻的全局模型Wt进行评分的所有参与方的数量。
7.根据权利要求1所述的基于区块链的异步联邦学习架构系统,其特征是,所述奖惩措施包括:
响应于所述泛化性提升率为正,则对相应的提供本地梯度的参与方进行奖励;
响应于所述泛化性提升率为负,则对相应的提供本地梯度的参与方不进行奖励。
8.根据权利要求7所述的基于区块链的异步联邦学习架构系统,其特征是,所述奖惩措施还包括:
响应于某个参与方提供本地梯度得到的更新后的全局模型的泛化性提升率为负的次数大于预设的阈值,则不再接受该参与方提供的本地梯度。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于湖北文理学院,未经湖北文理学院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211413352.0/1.html,转载请声明来源钻瓜专利网。