[发明专利]一种基于联邦学习资源分配优化方法及系统

说明书

本发明公开了一种基于联邦学习资源分配优化方法及系统，方法按如下步骤：S1.初始化训练任务和全局模型，并广播给所有用户；S2.用户根据本地数据更新本地模型；S3.计算时延、能耗；S4.确定优化目标函数；S5.交替迭代求解发射功率和计算频率；S6.检查模型精度是否满足要求或达到本地最大迭代次数，若是，则执行S7；若否，则执行S2；S7.雾服务器接收本地模型，聚合所有用户并生成一个新的全局模型，广播至所有用户；判断全局损失函数是否达到收敛或达到最大全局更新次数，若否，则重复S2‑S6；若是，则结束。本发明在联邦学习模型更新中利用NOMA技术作为传输方案，以减少传输延迟，提高频谱效率。本发明根据实际要求，考虑双用户的情况，以降低SIC的解码复杂度。

技术领域

本发明属于联邦学习技术领域，特别是涉及一种联邦学习系统的通信资源和计算资源分配优化方法及系统。

背景技术

随着物联网和5G技术的快速发展，万物互联正在成为现实，预计数百亿的物联网设备(例如智能手机，智能传感器，可穿戴设备)将会连接到物联网中。由于物联网设备自身资源的局限性，计算任务往往被传输至远程云计算，但是巨大的传输量会给通信链路造成不能接受的延迟。雾计算(Fog Computing)被认为是有前景的计算范式，通过在网络边缘提供类似云的服务，可以显著减少数据传输的延迟，降低链路阻塞概率。与云相比，雾节点的能耗也显著降低。

在物联网中，机器学习技术在人工智能领域取得了巨大成功，图像识别、智能推荐早已深入人们的生活。传统上，由服务商收集大量的用户数据，通过数据中心大量的样本训练，来提升模型的效果。但是用户个人数据关系着个人的隐私和安全，一旦数据中心受到攻击或者用户数据被泄露，后果不堪设想。联邦学习(Federated learning)的提出为隐私保护提供破解之法，通过由用户设备利用各自数据训练模型，再经过模型参数聚合成一个全局模型，使得所有用户的数据都被利用，进而得到全局优化模型并且保护数据不被泄露。因为雾节点距离用户的距离近，故由雾节点汇聚全局模型被认为是一个有前景的方法。

时延和能耗是系统的关键性能，时延直接影响了系统的稳定和用户体验度，能耗则关乎设备的生命周期，传统的技术只关注时延或者只关注能耗，这都会对系统整体性能产生影响，通过对时延能耗的权衡，可以针对不同用户的需求提供不同的资源分配方案。引入非正交多址接入(Non-Orthogonal Multiple Access)技术与雾计算相结合，以同时支持多个用户服务，更进一步降低时延和能耗。基于此，本发明提出了一种基于联邦学习资源分配优化方法及系统。

发明内容

基于本领域上述现状，本发明提出了一种基于雾计算辅助联邦学习的通信资源和计算资源优化分配方法及系统，以实现时延与能耗权重和的最小化。本发明考虑终端用户基于非正交多址接入(NOMA)传输协议向雾节点上传模型参数，量化系统内时延、能耗，确定时延能耗加权和为优化目标，针对目标函数为NP-hard问题，采用交替迭代算法，利用凸优化分析理论推导出通信资源和计算资源的最优封闭解。

为了实现以上目的，本发明采用如下技术方案：

本发明提出一种面向联邦学习的资源分配方法，包括以下步骤：

S1.初始化训练任务和全局模型，并广播给所有用户；

S2.用户根据本地数据更新本地模型；

S3.计算时延、能耗；

S4.确定优化目标函数；

S5.交替迭代求解发射功率和计算频率；

S6.检查模型精度是否满足要求或达到本地最大迭代次数，若是，则执行S7；若否，则执行S2；

S7.雾服务器接收本地模型，聚合所有用户并生成一个新的全局模型，广播至所有用户；判断全局损失函数是否达到收敛或达到最大全局更新次数，若否，则重复S2-S6；若是，则结束。