[发明专利]基于联邦学习的模型训练方法、装置及相关设备

说明书

本申请涉及数据处理技术，提供一种基于联邦学习的模型训练方法、装置、计算机设备与存储介质，包括：发送初始权值至目标参与节点，计算第一时长；接收第一本地模型权值，处理第一本地模型权值，得到第二权值，并更新待训练模型，判断模型是否收敛；当结果为否时，计算发送第一本地模型权值的第二时长；根据第一时长与第二时长确定目标网络信息；更新量化精度与模型更新频率；接收第二本地模型权值，处理第二本地模型权值，得到第三权值，并更新待训练模型，判断模型是否收敛；当结果为是时，确定模型训练完成。本申请能够提高模型训练的效率，促进智慧城市的快速发展。

技术领域

本申请涉及数据处理技术领域，尤其涉及一种基于联邦学习的模型训练方法、装置、计算机设备及介质。

背景技术

联邦学习无须各数据拥有方共享原始数据，可以在保证安全性的条件下，充分地利用各数据拥有方的原始数据进行模型训练，有效解决了人工智能时代的数据孤岛问题。在现有的联邦学习中，中心节点需要在每一次迭代中收集各个参与节点的计算结果计算出这一次迭代后的权重。例如在横向的联邦学习中，中心节点需要根据各个参与节点的本地模型梯度来计算待训练模型的最终梯度。然而这就要求各个参与节点的网络状况是近似的，如果其中一方的网络带宽较差或者网络出现波动，中心节点和其他所有参与节点都需要等待该节点的更新后梯度，导致待训练模型的训练效率低下。

在实现本申请的过程中，发明人发现现有技术存在如下技术问题：现有技术在考虑各个参与方的网络状况时，采用减少传输的数据量或者让较慢的节点传输较少的东西这两种方式，然而，第一种方式并不能根本性解决其他节点需要等待速度较慢的节点的问题，第二种方式虽然解决了某些节点网络一致很差的问题，但是它不能应对网络波动的情况，即节点可能在某些时间段网络很差而在其他时间段则有较好的网络状况。

因此，有必要提供一种基于联邦学习的模型训练方法，能够提高模型训练的效率。

发明内容

鉴于以上内容，有必要提出一种基于联邦学习的模型训练方法、基于联邦学习的模型训练装置、计算机设备及介质，能够提高模型训练的效率。

本申请实施例第一方面提供一种基于联邦学习的模型训练方法，用于训练待训练模型，应用于中心节点，所述基于联邦学习的模型训练方法包括：

发送初始权值至目标参与节点中，并计算所述目标参与节点接收到所述初始权值的第一时长；

接收所述目标参与节点发送的第一本地模型权值，并调用预设模型处理所述第一本地模型权值，得到所述待训练模型对应的第二权值；

根据所述第二权值更新所述待训练模型，并判断更新后的所述待训练模型是否收敛；

当更新后的所述待训练模型未收敛时，计算所述目标参与节点发送所述第一本地模型权值的第二时长；

根据所述第一时长与所述第二时长确定所述目标参与节点的目标网络信息；

根据所述目标网络信息更新所述目标参与节点的量化精度与模型更新频率，并将所述量化精度与所述模型更新频率发送至所述目标参与节点中；

接收所述目标参与节点根据所述量化精度与所述模型更新频率处理得到的第二本地模型权值，并调用所述预设模型处理所述第二本地模型权值，得到所述待训练模型对应的第三权值；

根据所述第三权值更新所述待训练模型，并判断更新后的所述待训练模型是否收敛；

当更新后的所述待训练模型收敛时，确定所述待训练模型训练完成。

进一步地，在本申请实施例提供的上述基于联邦学习的模型训练方法中，所述计算所述目标参与节点接收到所述初始权值的第一时长包括：

获取开始发送所述初始权值的起始时间点；

获取所述目标参与节点输出的接收到所述初始权值的结束时间点；