[发明专利]一种联邦学习模型优化方法及装置

说明书

本发明公开了一种联邦学习模型优化方法及装置。该方法包括：将各个数据终端的本地模型依次分别与由联邦学习模型参数得到的第一模型进行模型融合，生成相应的初始融合模型，并根据模型融合中得到的每个初始融合模型的模型性能测试结果，确定每个初始融合模型分别对于各个数据终端的权重值后，进行综合处理，得到各个初始融合模型的综合权重值后进行排序，将设定数量的排序在前的初始融合模型在主服务端进行模型融合，得到更新后的联邦学习模型，实现在联邦学习训练过程中，使得各个数据终端的本地模型减少对用户数据的访问，同时有效、快速的建立联邦学习模型，进而有利于保护用户隐私数据的安全。

技术领域

本发明涉及一种联邦学习模型优化方法，同时也涉及相应的联邦学习模型优化装置，属于深度学习技术领域。

背景技术

联邦学习(Federated Learning)作为一种创新的建模机制，可以提供一个机器学习框架，针对来自多方的数据训练统一模型而又不损害这些数据的隐私和安全性。因此，将联邦学习应用到销售、金融和许多其他行业中，可以解决这些行业不能直接聚合数据，训练诸如知识产权，隐私保护和数据安全之类因素导致的机器学习模型的问题。

专利号为ZL 202011044286.5的发明专利公开了一种基于联邦学习进行模型参数更新的方法及系统，可用于机器学习过程中的隐私数据保护，该方法由参与方中的任一训练成员实现；该方法虽然实现了训练成员上传模型数据元素的传输比例随迭代次数的增加而减少，可以有效减少模型参数的传输量，同时了保证模型的准确性以及收敛过程的稳定性；根据各训练成员的训练样本数量确定在各训练成员的模型数据在聚合模型数据中的占比，可以进一步提高模型的准确性。但是，该方法对用户数据的访问量依然较大，无法满足有效、快速的建立联邦学习模型的需求。

发明内容

本发明所要解决的首要技术问题在于提供一种联邦学习模型优化方法。

本发明所要解决的另一技术问题在于提供一种联邦学习模型优化装置。

为了实现上述目的，本发明采用下述技术方案：

根据本发明实施例的第一方面，提供一种联邦学习模型优化方法，包括如下步骤：

建立参与联邦学习的各个数据终端的智能体,以根据获取的本地训练数据得到各个数据终端的本地模型参数，根据获取的预设长度存储队列中的实时本地训练数据进行强化学习训练，得到各个数据终端的本地模型；

从各个智能体中任意选择一个作为协调智能体，接收余下智能体发送的所述本地模型参数和所述本地模型，对所述本地模型参数综合处理后，得到联邦学习模型参数，并根据所述联邦学习模型参数得到第一模型；

采用主服务端将各个数据终端的本地模型依次分别与所述第一模型进行模型融合，生成相应的初始融合模型，并记录模型融合中的测试指标，得到每个初始融合模型的模型性能测试结果；

主服务端根据各个初始融合模型的模型性能测试结果，结合所述本地模型参数，确定每个初始融合模型分别对于各个数据终端的权重值；

对每个初始融合模型分别对于各个数据终端的权重值进行综合处理，得到各个所述初始融合模型的综合权重值后进行排序，将设定数量的排序在前的初始融合模型在主服务端进行模型融合，得到联邦学习模型。

其中较优地，参与联邦学习的多个数据终端各自选择信任的服务端建立智能体。

其中较优地，所述智能体建立通信网络，并选择共同信任的，且是所述智能体所在服务端以外的服务端作为联邦学习的主服务端。

其中较优地，所述协调智能体对各个数据终端的本地模型参数综合处理时，将各个所述本地模型参数进行去重处理，得到联邦学习模型参数。

其中较优地，所述测试指标包括初始融合模型对所述联邦学习模型参数中的不同模型参数的支持强度；