[发明专利]一种基于信息熵的联邦学习参与方权重计算方法在审
申请号: | 202210052841.1 | 申请日: | 2022-01-18 |
公开(公告)号: | CN114398634A | 公开(公告)日: | 2022-04-26 |
发明(设计)人: | 张帅;詹静 | 申请(专利权)人: | 北京工业大学 |
主分类号: | G06F21/55 | 分类号: | G06F21/55;G06N20/00 |
代理公司: | 北京思海天达知识产权代理有限公司 11203 | 代理人: | 沈波 |
地址: | 100124 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 信息 联邦 学习 参与 权重 计算方法 | ||
1.一种基于信息熵的联邦学习参与方权重计算方法,其特征在于:包括如下步骤:
步骤1)建立服务端与各客户端之间的连接,以便后续通信,采取创建套接字的方式来建立通信关系;通过调用Socket()来创建套接字,后续的通信都通过该套接字进行;
步骤2)各客户端在本地使用本地数据进行机器学习训练,生成初始的模型准确率Si;
步骤3)各客户端通过步骤1)中创建的套接字,向服务端发送初始的模型准确率,该值不是一成不变的,后续若想调控预期准确率,通过套接字传输给服务端;
步骤4)服务端收到各客户端发来的初始预期值后,将该初始预期值保存到服务器中,供后续使用;
步骤5)开始正式进行联邦学习;
步骤6)各客户端在本地进行迭代训练,在本地迭代若干轮后,生成本地训练模型分别为其中t+1表示第t+1轮全局迭代;
步骤7)取出当前轮次的全局模型Gt,计算得出第t轮全局模型和第t+1轮生成的本地训练模型的变化量
由步骤6)本地迭代训练后,得到本轮次该客户端生成的模型实际正确率
步骤8)客户端向服务端上传模型参数与模型实时正确率
步骤9)每个客户端的贡献度由两个因子决定,分别是初始预期模型正确率与每轮次模型正确率的变化量;
步骤10)计算各客户端的权值;在计算客户端的权值前,需要首先计算出各客户端的贡献度D,经归一化后得各客户端权值为W;
步骤11)服务端得到各客户端的权值后,按照聚合方法进行聚合;即将本轮次各客户端的模型变化量按比例聚合后得到总的全局模型变化量,然后将全局模型的变化量累加到上一轮次的全局模型中,得到新一轮次的全局模型;
步骤12)服务端通过上述步骤1)产生的通信套接字,将更新后的全局模型下发到各客户端,该全局模型将作为下轮次全局迭代中客户端本地训练的输入模型;
步骤13)客户端将下载的全局模型保存到本地,供下一轮次学习使用;然后重复6)-12)的步骤,进行全局迭代训练;当全局模型正确率达到预期值或者全局迭代次数到达配置文件中配置的次数时,全局训练结束。
2.根据权利要求1所述的一种基于信息熵的联邦学习参与方权重计算方法,其特征在于:步骤9)中的实施过程如下,步骤9.1)确定集合U;计算模型正确率变化量确定集合U;
步骤9.2)确定因子指标矩阵;指标矩阵由参与计算的每个客户端的两个因子组成,第一个因子为模型初始正确率Si,第二个因子为模型正确率变化量因此可得指标矩阵X;
步骤9.3)对指标矩阵X进行标准化处理,当原始指标值为正时采用公式进行标准化;当原始指标值为负时采用公式进行标准化,可得标准化后的指标矩阵Z;
步骤9.4)由概率计算公式将标准化后的指标矩阵计算概率矩阵得P;
步骤9.5)由信息熵计算公式可计算各指标因子的信息熵E;
步骤9.6)计算各因子的作用程度;首先由dj=1-Ej计算出各因子的效用值d,该效用值d越大,对应的信息就越多;然后计算出各因子的作用程度α,β。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京工业大学,未经北京工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210052841.1/1.html,转载请声明来源钻瓜专利网。
- 信息记录介质、信息记录方法、信息记录设备、信息再现方法和信息再现设备
- 信息记录装置、信息记录方法、信息记录介质、信息复制装置和信息复制方法
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录设备、信息重放设备、信息记录方法、信息重放方法、以及信息记录介质
- 信息存储介质、信息记录方法、信息重放方法、信息记录设备、以及信息重放设备
- 信息存储介质、信息记录方法、信息回放方法、信息记录设备和信息回放设备
- 信息记录介质、信息记录方法、信息记录装置、信息再现方法和信息再现装置
- 信息终端,信息终端的信息呈现方法和信息呈现程序
- 信息创建、信息发送方法及信息创建、信息发送装置