[发明专利]一种云边端协同联邦学习智能优化方法及装置在审
申请号: | 202310601084.3 | 申请日: | 2023-05-26 |
公开(公告)号: | CN116579441A | 公开(公告)日: | 2023-08-11 |
发明(设计)人: | 詹玉峰;齐天宇;冯伟;张元;翟弟华;吴楚格;夏元清 | 申请(专利权)人: | 北京理工大学;北京理工大学长三角研究院(嘉兴) |
主分类号: | G06N20/00 | 分类号: | G06N20/00 |
代理公司: | 北京高沃律师事务所 11569 | 代理人: | 刘芳 |
地址: | 100081 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 云边端 协同 联邦 学习 智能 优化 方法 装置 | ||
1.一种云边端协同联邦学习智能优化方法,其特征在于,包括:
构建基于云边端的联邦学习框架;所述联邦学习框架中包括中央服务器、与中央服务器通信的边缘设备以及与边缘设备通信的终端设备;所述中央服务器中植入轻量级训练器并缓存中央模型和智能体决策模型;所述边缘设备中缓存边缘模型;所述终端设备中植入本地模型;
边缘设备将其所缓存的边缘模型参数下发给其所连接的终端设备,作为终端设备中植入的本地模型的参数;
终端设备利用本地数据对本地模型进行训练,达到终端训练轮次数后,将训练完毕的本地模型提交到相应的边缘设备中进行聚合,得到边缘聚合模型;
边缘设备采集终端设备在训练过程中的训练时间和训练功耗作为训练数据,并利用边缘聚合模型参数更新所缓存的边缘模型参数,当达到边缘聚合频率后,提交聚合完毕的边缘模型到中央服务器进行聚合,得到中央聚合模型;
中央服务器利用中央聚合模型参数更新所缓存的中央模型参数,并计算中央模型的精度;
根据终端设备在训练过程中的训练数据和中央模型的精度计算回报值;
中央服务器根据中央模型、边缘模型以及终端设备在训练过程中的训练数据生成智能体决策模型的状态;
智能体决策模型将状态作为输入,输出对应的动作;动作包括边缘聚合频率和终端训练轮次数;
中央服务器根据状态、动作和回报值生成决策轨迹信息,并利用决策轨迹信息更新智能体决策模型,直至更新的智能体决策模型收敛至最优解时,得到训练好的智能体决策模型;
利用训练好的智能体决策模型协调联邦学习过程中边缘设备的边缘聚合频率和终端设备的终端训练轮次数。
2.根据权利要求1所述的云边端协同联邦学习智能优化方法,其特征在于,所述构建基于云边端的联邦学习框架,具体包括:
将轻量级训练器植入于中央服务器中;
中央服务器将轻量级训练器发送至多个终端设备中;
采用轻量级训练器对多个终端设备进行预训练,得到多个终端设备的计算资源先验参数;所述计算资源先验参数包括终端设备的单位功耗和单位训练时间;
利用计算资源先验参数将多个终端设备聚类并与相应的边缘设备连接通信,构建出基于云边端的联邦学习框架。
3.根据权利要求2所述的云边端协同联邦学习智能优化方法,其特征在于,所述终端设备利用本地数据对本地模型进行训练,具体包括:
终端设备利用本地数据,基于公式对本地模型进行训练;其中表示本地更新的轮次标号;表示边缘聚合的轮次标号;表示云端聚合的轮次标号;表示第轮云端聚合的第次边缘聚合中第轮更新的终端设备的本地模型;为学习率;表示终端设备的风险函数;表示第轮云端聚合的第次边缘聚合中第轮更新的终端设备的本地模型。
4.根据权利要求3所述的云边端协同联邦学习智能优化方法,其特征在于,所述达到终端训练轮次数后,将训练完毕的本地模型提交到相应的边缘设备中进行聚合,得到边缘聚合模型,具体包括:
达到终端训练轮次数后,将训练完毕的本地模型提交到相应的边缘设备中,基于公式进行聚合,得到边缘聚合模型;其中表示第轮云端聚合的第次边缘聚合中终端设备的训练完毕的本地模型;表示边缘设备所连接的所有终端设备的集合;为终端设备的本地数据样本;为边缘设备所连接的所有终端设备的本地数据样本集合;表示第轮云端聚合的第次边缘聚合中边缘设备的边缘聚合模型。
5.根据权利要求4所述的云边端协同联邦学习智能优化方法,其特征在于,所述当达到边缘聚合频率后,提交聚合完毕的边缘模型到中央服务器进行聚合,得到中央聚合模型,具体包括:
当达到边缘聚合频率后,提交边缘模型到中央服务器,基于公式进行聚合,得到中央聚合模型;其中表示第轮云端聚合中边缘设备的聚合完毕的边缘模型;表示所有终端设备的本地数据样本集合;表示所有边缘设备的集合;表示第轮云端聚合得到的中央聚合模型。
6.根据权利要求5所述的云边端协同联邦学习智能优化方法,其特征在于,所述计算中央模型的精度,具体包括:
获取中央模型的测试集;
利用测试集测试中央模型的精度。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京理工大学;北京理工大学长三角研究院(嘉兴),未经北京理工大学;北京理工大学长三角研究院(嘉兴)许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310601084.3/1.html,转载请声明来源钻瓜专利网。