[发明专利]联邦学习模型的更新方法、装置、电子设备及存储介质有效
申请号: | 202011640520.0 | 申请日: | 2020-12-31 |
公开(公告)号: | CN112732297B | 公开(公告)日: | 2022-09-27 |
发明(设计)人: | 朱星华;王健宗 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F8/65 | 分类号: | G06F8/65;G06N20/00 |
代理公司: | 深圳市沃德知识产权代理事务所(普通合伙) 44347 | 代理人: | 高杰;于志光 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 联邦 学习 模型 更新 方法 装置 电子设备 存储 介质 | ||
1.一种联邦学习模型的更新方法,其特征在于,所述方法应用于服务器端,包括:
接收参与联邦学习的目标客户端发送的数据移除请求;
在从用于联邦学习模型的数据中删除移除数据之后,向参与联邦学习的所有客户端发送数据移除消息,以使得所述目标客户端根据梯度公式计算所述移除数据关于所述联邦学习模型的梯度参数,以及使得各个客户端根据矩阵公式计算各个客户端所包含的全量数据在所述移除数据移除之后所述联邦学习模型的损失函数的黑塞矩阵,其中,当所述联邦学习模型为联邦线性模型时,所述梯度公式为第一梯度子公式、所述矩阵公式为第一矩阵子公式,当所述联邦学习模型为联邦逻辑回归模型时,所述梯度公式为第二梯度子公式、所述矩阵公式为第二矩阵子公式;
所述第一梯度子公式包括:
所述第二梯度子公式包括:
其中,Δ为梯度参数,m为移除数据的个数,w为所述联邦学习模型的参数向量,xj和yj为模型的输入数据,λ为正则化因子,b为预设的损失扰动因子,为损失函数;
所述第一矩阵子公式包括:
所述第二矩阵子公式包括:
其中,为第i个客户端的黑塞矩阵,为损失函数,为客户端i包含的全量数据,为客户端i的移除数据,xj和yj为模型的输入数据,为旋度,为损失函数;
预设模型参数公式包括:
其中,w(-m)为更新参数,w为所述联邦学习模型的参数向量,为第i个客户端的黑塞矩阵,Δ为所述梯度参数,m为所述移除数据的个数,k为参与所述联邦学习的所有客户端的个数;
接收所述目标客户端发送的梯度参数和各个客户端发送的黑塞矩阵;
判断所述梯度参数或所述黑塞矩阵是否为加密数据;
若所述梯度参数或所述黑塞矩阵是加密数据,根据预设的解密公式对所述加密数据进行解密,得到解密后的梯度参数和黑塞矩阵;
根据所述梯度参数、所述黑塞矩阵和预设模型参数公式计算更新参数;
利用所述更新参数对所述联邦学习模型进行更新。
2.如权利要求1所述的联邦学习模型的更新方法,其特征在于,所述利用所述更新参数对所述联邦学习模型进行更新之后,所述方法还包括:
将更新后的所述联邦学习模型发送至参与联邦学习的所有客户端。
3.如权利要求1所述的联邦学习模型的更新方法,其特征在于,所述接收参与联邦学习的目标客户端发送的数据移除请求之后,所述方法还包括:
根据客户端的数量开启监听端口。
4.如权利要求1所述的联邦学习模型的更新方法,其特征在于,所述接收所述目标客户端发送的梯度参数和各个客户端发送的黑塞矩阵,包括:
获取监听端口;
利用预设的请求响应协议通过所述监听端口接收所述目标客户端发送的梯度参数和各个客户端发送的黑塞矩阵。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011640520.0/1.html,转载请声明来源钻瓜专利网。