[发明专利]一种去中心的分簇联邦学习方法及系统在审
申请号: | 202111319304.0 | 申请日: | 2021-11-09 |
公开(公告)号: | CN113988315A | 公开(公告)日: | 2022-01-28 |
发明(设计)人: | 张剑飞;冯欣;杨宏伟;张婧;吕帅帅 | 申请(专利权)人: | 长春理工大学 |
主分类号: | G06N20/00 | 分类号: | G06N20/00;G06K9/62;G06F21/64 |
代理公司: | 北京高沃律师事务所 11569 | 代理人: | 赵兴华 |
地址: | 130022 吉林*** | 国省代码: | 吉林;22 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 中心 联邦 学习方法 系统 | ||
1.一种去中心的分簇联邦学习方法,其特征在于,所述方法,包括:
对所有参与方进行预训练,得到每个所述参与方的模型权重和评分分数;
根据所述模型权重,利用K-Means算法对所有所述参与方进行分簇处理,得到多个簇;
确定每个所述簇中评分分数最高的参与方为簇头参与方,确定所述簇中除所述簇头参与方之外的参与方为非簇头参与方;
将所述簇头参与方作为对应簇的服务器,对每个所述簇进行联邦训练,得到多个全局模型。
2.根据权利要求1所述去中心的分簇联邦学习方法,其特征在于,所述对所有参与方进行预训练,得到每个所述参与方的模型权重和评分分数,具体包括:
确定任一所述参与方为中心参与方;
确定除所述中心参与方之外的参与方为非中心参与方;
所述中心参与方生成第一全局初始模型,并将所述第一全局初始模型分别发送给多个所述非中心参与方;
所述中心参与方和多个所述非中心参与方分别利用本地数据对所述第一全局初始模型进行训练,得到多个第一本地模型;
确定多个所述第一本地模型的准确率和模型权重;
根据多个所述第一本地模型的准确率和模型权重,确定每个所述第一本地模型的评分分数;
确定所述第一本地模型的模型权重为对应参与方的模型权重;
确定所述第一本地模型的评分分数为对应参与方的评分分数。
3.根据权利要求2所述去中心的分簇联邦学习方法,其特征在于,所述评分分数的计算公式为:Score=wi·acci;
其中,Score为评分分数,wi为参与方i的模型权重;acci为参与方i的准确率。
4.根据权利要求1所述去中心的分簇联邦学习方法,其特征在于,所述根据所述模型权重,利用K-Means算法对所有所述参与方进行分簇处理,得到多个簇,具体包括:
根据多个所述参与方的模型权重,利用公式sim(xi,xj)=||xi,xj||,分别两两计算多个所述参与方之间的余弦相似度;
根据多个所述余弦相似度,构建余弦相似度矩阵;
根据所述余弦相似度矩阵,利用K-Means算法对所有所述参与方进行分簇处理,得到多个簇;
其中,sim(xi,xj)表示参与方i的模型权重和参与方j的模型权重之间的余弦相似度;xi表示参与方i的模型权重;xj表示参与方j的模型权重。
5.根据权利要求1所述去中心的分簇联邦学习方法,其特征在于,所述将所述簇头参与方作为对应簇的服务器,对每个所述簇进行联邦训练,得到多个全局模型,具体包括:
确定任一簇为当前簇;
所述当前簇中的簇头参与方生成第二全局初始模型,并将所述第二全局初始模型分别发送给当前簇中的多个非簇头参与方;
确定所述第二全局初始模型为参与方初始模型;
所述当前簇中的所有参与方分别利用本地数据对所述参与方初始模型进行训练,得到多个第二本地模型;
所述簇头参与方将多个所述第二本地模型进行聚合处理,得到聚合模型;
判断所述聚合模型是否收敛,得到判断结果;
若所述判断结果为否,则将所述聚合模型作为参与方初始模型,并返回步骤“所述当前簇中的所有参与方分别利用本地数据对所述参与方初始模型进行训练,得到多个第二本地模型”;
若所述判断结果为是,则确定所述聚合模型为所述当前簇的全局模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于长春理工大学,未经长春理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111319304.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种氨氮降解菌固定化小球的制备方法
- 下一篇:一种浮桥及浮桥施工方法