[发明专利]基于联邦学习的模型训练方法、装置及相关设备在审
| 申请号: | 202111136508.0 | 申请日: | 2021-09-27 |
| 公开(公告)号: | CN113837397A | 公开(公告)日: | 2021-12-24 |
| 发明(设计)人: | 黄晨宇;王健宗 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
| 主分类号: | G06N20/00 | 分类号: | G06N20/00;G06K9/62;G06F21/62 |
| 代理公司: | 深圳市赛恩倍吉知识产权代理有限公司 44334 | 代理人: | 杨毅玲;陈海云 |
| 地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 基于 联邦 学习 模型 训练 方法 装置 相关 设备 | ||
1.一种基于联邦学习的模型训练方法,用于训练待训练模型,应用于中心节点,其特征在于,所述基于联邦学习的模型训练方法包括:
发送初始权值至目标参与节点中,并计算所述目标参与节点接收到所述初始权值的第一时长;
接收所述目标参与节点发送的第一本地模型权值,并调用预设模型处理所述第一本地模型权值,得到所述待训练模型对应的第二权值;
根据所述第二权值更新所述待训练模型,并判断更新后的所述待训练模型是否收敛;
当更新后的所述待训练模型未收敛时,计算所述目标参与节点发送所述第一本地模型权值的第二时长;
根据所述第一时长与所述第二时长确定所述目标参与节点的目标网络信息;
根据所述目标网络信息更新所述目标参与节点的量化精度与模型更新频率,并将所述量化精度与所述模型更新频率发送至所述目标参与节点中;
接收所述目标参与节点根据所述量化精度与所述模型更新频率处理得到的第二本地模型权值,并调用所述预设模型处理所述第二本地模型权值,得到所述待训练模型对应的第三权值;
根据所述第三权值更新所述待训练模型,并判断更新后的所述待训练模型是否收敛;
当更新后的所述待训练模型收敛时,确定所述待训练模型训练完成。
2.根据权利要求1所述的基于联邦学习的模型训练方法,其特征在于,所述计算所述目标参与节点接收到所述初始权值的第一时长包括:
获取开始发送所述初始权值的起始时间点;
获取所述目标参与节点输出的接收到所述初始权值的结束时间点;
计算所述结束时间点与所述起始时间点的差值,得到第一时长。
3.根据权利要求1所述的基于联邦学习的模型训练方法,其特征在于,所述调用预设模型处理所述第一本地模型权值,得到所述待训练模型对应的第二权值包括:
获取所述目标参与节点的数量以及各个所述目标参与节点对应的所述第一本地模型权值;
求和处理若干个所述第一本地模型权值,得到第一本地模型权值和;
计算所述第一本地模型权值和与所述数量的比值,得到初始本地模型权值;
调用预设加密密钥解密处理所述初始本地模型权值,得到所述待训练模型对应的第二权值。
4.根据权利要求1所述的基于联邦学习的模型训练方法,其特征在于,所述根据所述第一时长与所述第二时长确定所述目标参与节点的目标网络信息包括:
分别计算所述第一时长对应的第一时长平均值与第一时长标准差,并根据所述第一时长平均值与所述第一时长标准差确定第一网络区间;
分别计算所述第二时长对应的第二时长平均值与第二时长标准差,并根据所述第二时长平均值与所述第二时长标准差确定第二网络区间;
根据所述第一时长与所述第一网络区间的关系以及所述第二时长与所述第二网络区间的关系确定各个所述目标参与节点的目标网络信息。
5.根据权利要求1所述的基于联邦学习的模型训练方法,其特征在于,所述根据所述目标网络信息更新所述目标参与节点的量化精度与模型更新频率包括:
获取预先设置的网络信息与量化精度的第一映射关系,并根据所述目标网络信息遍历所述第一映射关系,得到目标量化精度;
获取预先设置的网络信息与模型更新频率的第二映射关系,并根据所述目标网络信息遍历所述第二映射关系,得到目标模型更新频率。
6.一种基于联邦学习的模型训练方法,用于训练待训练模型,应用于目标参与节点,其特征在于,所述方法包括:
获取所述待训练模型对应的预设初始模型参数,并根据所述预设初始模型参数调整所述待训练模型,得到本地训练模型,其中,所述预设初始模型参数包括初始量化精度、初始模型更新频率以及学习率;
当接收到中心节点发送的初始权值时,获取所述本地训练模型对应的训练数据,并根据所述初始权值以及所述训练数据训练所述本地训练模型,得到更新后的本地训练模型;
根据所述初始量化精度量化处理更新后的本地训练模型的本地模型权值,得到中间本地模型权值;
调用预设加密密钥加密处理所述中间本地模型权值,得到第一本地模型权值;
按照所述初始模型更新频率将所述第一本地模型权值发送至所述中心节点。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111136508.0/1.html,转载请声明来源钻瓜专利网。





