[发明专利]一种基于信息熵的联邦学习参与方权重计算方法在审

专利信息
申请号: 202210052841.1 申请日: 2022-01-18
公开(公告)号: CN114398634A 公开(公告)日: 2022-04-26
发明(设计)人: 张帅;詹静 申请(专利权)人: 北京工业大学
主分类号: G06F21/55 分类号: G06F21/55;G06N20/00
代理公司: 北京思海天达知识产权代理有限公司 11203 代理人: 沈波
地址: 100124 *** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 基于 信息 联邦 学习 参与 权重 计算方法
【权利要求书】:

1.一种基于信息熵的联邦学习参与方权重计算方法,其特征在于:包括如下步骤:

步骤1)建立服务端与各客户端之间的连接,以便后续通信,采取创建套接字的方式来建立通信关系;通过调用Socket()来创建套接字,后续的通信都通过该套接字进行;

步骤2)各客户端在本地使用本地数据进行机器学习训练,生成初始的模型准确率Si

步骤3)各客户端通过步骤1)中创建的套接字,向服务端发送初始的模型准确率,该值不是一成不变的,后续若想调控预期准确率,通过套接字传输给服务端;

步骤4)服务端收到各客户端发来的初始预期值后,将该初始预期值保存到服务器中,供后续使用;

步骤5)开始正式进行联邦学习;

步骤6)各客户端在本地进行迭代训练,在本地迭代若干轮后,生成本地训练模型分别为其中t+1表示第t+1轮全局迭代;

步骤7)取出当前轮次的全局模型Gt,计算得出第t轮全局模型和第t+1轮生成的本地训练模型的变化量

由步骤6)本地迭代训练后,得到本轮次该客户端生成的模型实际正确率

步骤8)客户端向服务端上传模型参数与模型实时正确率

步骤9)每个客户端的贡献度由两个因子决定,分别是初始预期模型正确率与每轮次模型正确率的变化量;

步骤10)计算各客户端的权值;在计算客户端的权值前,需要首先计算出各客户端的贡献度D,经归一化后得各客户端权值为W;

步骤11)服务端得到各客户端的权值后,按照聚合方法进行聚合;即将本轮次各客户端的模型变化量按比例聚合后得到总的全局模型变化量,然后将全局模型的变化量累加到上一轮次的全局模型中,得到新一轮次的全局模型;

步骤12)服务端通过上述步骤1)产生的通信套接字,将更新后的全局模型下发到各客户端,该全局模型将作为下轮次全局迭代中客户端本地训练的输入模型;

步骤13)客户端将下载的全局模型保存到本地,供下一轮次学习使用;然后重复6)-12)的步骤,进行全局迭代训练;当全局模型正确率达到预期值或者全局迭代次数到达配置文件中配置的次数时,全局训练结束。

2.根据权利要求1所述的一种基于信息熵的联邦学习参与方权重计算方法,其特征在于:步骤9)中的实施过程如下,步骤9.1)确定集合U;计算模型正确率变化量确定集合U;

步骤9.2)确定因子指标矩阵;指标矩阵由参与计算的每个客户端的两个因子组成,第一个因子为模型初始正确率Si,第二个因子为模型正确率变化量因此可得指标矩阵X;

步骤9.3)对指标矩阵X进行标准化处理,当原始指标值为正时采用公式进行标准化;当原始指标值为负时采用公式进行标准化,可得标准化后的指标矩阵Z;

步骤9.4)由概率计算公式将标准化后的指标矩阵计算概率矩阵得P;

步骤9.5)由信息熵计算公式可计算各指标因子的信息熵E;

步骤9.6)计算各因子的作用程度;首先由dj=1-Ej计算出各因子的效用值d,该效用值d越大,对应的信息就越多;然后计算出各因子的作用程度α,β。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京工业大学,未经北京工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202210052841.1/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top