[发明专利]无线联邦学习调度优化方法及装置

说明书

本申请涉及一种无线联邦学习调度优化方法及装置，属于计算机技术领域，该方法包括：在联邦学习的每轮迭代循环中，向多个处理设备发送资源查询请求；在接收到处理设备反馈的资源信息后，从多个处理设备中选择处理学习任务的i个处理设备；根据资源信息确定i个处理设备的下载顺序；按照下载顺序为i个处理设备分配学习任务对应的全局模型；下载顺序使得i个处理设备的处理总延迟最小；获取i个处理设备上传的模型参数；基于模型参数确定新的全局模型；通过调节通信和计算能力之间的权重，依次全面评估每个设备的优先级，每个处理设备根据优先级序列进行模型的下载；且可以让将处理设备先进行计算，且不长时间占用通信信道，提高总体的训练效率。

【技术领域】

本申请涉及一种无线联邦学习调度优化方法及装置，属于计算机技术领域。

【背景技术】

联邦学习(Federated Learning)是一种机器学习框架，其设计目标是在保障大数据交换时的信息安全、保护终端数据和个人数据隐私、保证合法合规的前提下，在多参与方或多计算结点之间开展高效率的机器学习。其中，联邦学习可使用的机器学习算法不局限于神经网络，还包括随机森林等重要算法。

在联邦学习过程中，基站向所有被选择的处理设备逐一发送全局模型ω，来保证计算和通信的并行性，以此更好地使用整个系统的资源。

然而，随机生成的模型分发顺序对应的联邦学习效率可能较低。

【发明内容】

本申请提供了一种无线联邦学习调度优化方法及装置，可以解决随机分配全局模型时联邦学习效率可能较低的问题。本申请提供如下技术方案：

第一方面，提供一种无线联邦学习调度优化方法，所述方法包括：

在学习任务创建完成后，在联邦学习的每轮迭代循环中，向多个处理设备发送资源查询请求；所述资源查询请求用于请求所述处理设备返回资源信息；

在接收到所述处理设备反馈的资源信息后，从所述多个处理设备中选择处理所述学习任务的i个处理设备，所述i为正整数；

根据所述资源信息确定所述i个处理设备的下载顺序；

按照所述下载顺序为所述i个处理设备分配所述学习任务对应的全局模型；所述i个处理设备中的每个处理设备在下载所述全局模型完成后对所述全局模型进行训练，并在上传资源未被占用时上传训练得到的模型参数；所述下载顺序使得所述i个处理设备的处理总延迟最小，所述处理总延迟包括各个处理设备的下载前的等待时长、下载时长、上传时长、计算时长和上传前的等待时长；

获取所述i个处理设备上传的模型参数；

基于所述模型参数确定新的全局模型。

可选地，所述根据所述资源信息确定所述i个处理设备的下载顺序，包括：

根据所述资源信息，确定所述i个处理设备中每个处理设备处理所述学习任务所需的计算时长和下载时长；

获取预先设置的j个优先级参数，所述j为大于1的整数；

对于所述j个优先级参数中的每个优先级参数，使用所述优先级参数计算每个处理设备的优先级概率，并将所述i个处理设备的优先级概率按照从大到小的顺序排列，得到所述优先级参数对应的设备序列；

分别模拟所述j个优先级参数对应的设备序列的总循环时长；

将最小的总循环时长对应的设备序列确定为所述下载顺序。

可选地，所述使用所述优先级参数计算每个处理设备的优先级概率，通过下式表示：

其中，表示优先级概率，α_j表示优先级参数，表示计算时长，表示下载时长。