[发明专利]一种模型的处理方法、装置及设备

说明书

本说明书实施例公开了一种模型的处理方法、装置及设备，该方法应用于终端设备，包括：接收服务器发送的第一模型，获取第一训练样本数据，以对第一模型进行训练，并对第一模型的模型结构进行调整，得到目标模型，将目标模型对应的模型更新数据发送给服务器，以使服务器确定得到目标模型所使用的时长，并基于不同终端设备提供的模型更新数据对当前的模型进行更新，得到第二模型，并在确定第二模型需要裁剪时，确定对第二模型的裁剪程度和对第二模型进行训练所使用的时长，获取第二训练样本数据，并结合对第二模型进行训练所使用的时长对第二模型进行训练，并通过该裁剪程度对第二模型进行调整，得到第三模型，将第三模型发送给服务器。

技术领域

本文件涉及计算机技术领域，尤其涉及一种模型的处理方法、装置及设备。

背景技术

人工智能通过从大量的数据中学习到特定的知识，再通过学习到的特定知识执行相应的业务处理，人工智能技术为社会的发展带来很大便利。但随着互联网中数据量的快速增长，以及人们对于数据隐私的日益关注，数据往往需要进行本地化存储，而仅依靠部分节点(联邦学习中的终端设备)的数据来学习到相应的特定知识，这样学习到的特定知识是不充分而且有偏的。为解决上述问题衍生了在数据本地化的情况下多节点之间的协作学习机制。在实际应用中，不同节点的能力(包括通信能力和计算能力等)往往存在差异。

目前，联邦学习通常采用的是完全同步的处理方式，该处理方式下服务器需要等待所有预先选择的终端设备提交相应模型的更新数据，之后，服务器才能够更新服务器中当前的模型，此时，计算能力和通信能力较差的终端设备就成了上述模型训练的“拖累者”，从而造成联邦学习的效率降低。基于此，需要提供一种能够使得联邦学习的效率更高的技术方案。

发明内容

本说明书实施例的目的是提供一种能够使得联邦学习的效率更高的技术方案。

为了实现上述技术方案，本说明书实施例是这样实现的：

本说明书实施例提供的一种模型的处理方法，应用于终端设备，所述方法包括：接收服务器发送的第一模型，获取用于训练所述第一模型的第一训练样本数据，使用所述第一训练样本数据对所述第一模型进行训练，并对所述第一模型的模型结构进行调整，得到训练后的目标模型，所述目标模型与所述第一模型的模型结构相同，或者，所述目标模型是将所述第一模型的模型结构进行裁剪后得到的模型。将所述目标模型对应的模型更新数据发送给所述服务器，所述目标模型对应的模型更新数据用于触发所述服务器确定得到所述目标模型所使用的时长，并基于不同终端设备提供的所述目标模型对应的模型更新数据对所述服务器中当前的模型进行更新，得到第二模型，以及判断所述第二模型的模型结构是否需要再次裁剪，并在确定所述第二模型的模型结构需要进行裁剪时，确定不同终端设备对所述第二模型的模型结构的裁剪程度和对所述第二模型进行训练所使用的时长。接收所述服务器发送的对所述第二模型的模型结构的裁剪程度和对所述第二模型进行训练所使用的时长，以及所述第二模型。获取用于训练所述第二模型的第二训练样本数据，基于所述第二训练样本数据和对所述第二模型进行训练所使用的时长对所述第二模型进行训练，并通过对所述第二模型的模型结构的裁剪程度对所述第二模型的模型结构进行调整，得到训练后的第三模型，将所述第三模型对应的模型更新数据作为目标模型对应的模型更新数据发送给所述服务器。