[发明专利]一种移动边缘计算辅助多层联邦学习方法

说明书

本发明提供了一种移动边缘计算辅助多层联邦学习方法，通过把设计多层联邦学习转化成为利用求解器求解函数最优解的过程，来获得高效的联邦学习方案。通过将车联网设备的联邦学习任务分发到边缘服务器及云服务器，进一步对通信资源与计算资源的合理分配获得多层学习过程的最小时延。利用该方法，可以让分布式的车联网设备参与到联邦学习中，通过移动边缘计算服务器的强大计算能力来弥补车联网设备计算资源有限的不足，从而获得更加精确的机器学习模型以及合理的通信资源、计算资源的分配方案，大大减小了传统联邦学习方法的时延。

技术领域

本发明属于新一代信息技术中的无线通信网络应用领域，具体一种高效多层联邦学习设计方法。该发明可以应用于5G无线通信网络以及其它蜂窝通信网络中的传感设备联邦学习过程设计。

背景技术

在车联网、智慧城市、智能家居等现代物联网场景中，越来越多的智能设备可以应用人工智能算法来提供更加人性化的服务。传统的机器学习任务都在一个设备或一个中央节点上处理。例如，作为集中式机器学习方法之一，卷积神经网络通常用于通过使用足够的传感器数据(例如来自手机、相机、雷达等)进行训练来预测交通流量。然而，将所有数据发送到中央要训练的节点会给城市无线网络带来负担。联邦学习可以使每个带有传感器的设备都可以通过机器学习算法在本地训练数据，并将模型参数上传到中央节点进行聚合。这种传统的联邦学习方法通过结合不同类型设备的训练模型参数，显著降低了传输成本，并带来了更加精准的人工智能模型。

由于获得高精度的训练结果需要在本地节点和中心节点之间进行多次全局迭代，因此低延迟是联邦学习的关键性能。过去，很多研究都集中在通过调整学习机制来提高联邦学习的效率。然而，在智能车联网网络中，由于车联网设备的计算能力有限以及本地设备与远程数据中心之间的传输距离长，这些方法在训练时间预算下都存在训练精度低和学习性能下降的问题。为了解决这些问题，边缘计算被认为是一种很有前途的分布式计算范式，它允许将延迟敏感和计算密集型任务从分布式移动设备卸载到附近的边缘服务器。通过使用移动边缘服务器辅助联邦学习，利用边缘服务器的计算和存储能力使模型训练更接近车联网设备。

Dinh等人专注于通过解决由移动边缘服务器和多个用户组成的无线网络中用户数据的异构性来实现联合学习算法。(Dinh C T,Tran N H,Nguyen M N H,etal.Federated learning over wireless networks:Convergence analysis andresource allocation[J].IEEE/ACM Transactions on Networking,2020,29(1):398-409.)

Nishio等人设计了一种新的联邦学习协议，该协议有效地执行了FL，并允许移动边缘服务器聚合尽可能多的客户端更新并加速性能改进。(Nishio T,Yonetani R.Clientselection for federated learning with heterogeneous resources in mobile edge[C]//ICC 2019-2019IEEE international conference on communications(ICC).IEEE,2019:1-7.)

Zhou Zhi等人考虑了数据样本传输中的队列和调度策略，以最小化联邦边缘学习中通信和计算的总成本。(Z.Zhou,S.Yang,L.Pu and S.Yu,CEFL:Online AdmissionControl,Data Scheduling,and Accuracy Tuning for Cost-Efficient FederatedLearning Across Edge Nodes,in IEEE Internet of Things Journal,vol.7,no.10,pp.9341-9356,Oct.2020,doi:10.1109/JIOT.2020.2984332.)