[发明专利]一种联合学习系统的模型更新方法、装置、设备及介质

说明书

本公开涉及人工智能技术领域，提供了一种联合学习系统的模型更新方法、装置、设备及介质。该方法包括：根据中心节点对应的预置标准数据集，对中心节点对应的预设模型进行训练更新，得到第一模型；其中，预置标准数据集与本地参与方节点对应的本地数据相关；将中心节点对应的全局模型发送至各本地参与方节点，通过各本地参与方节点与相应的本地数据对全局模型进行训练，得到各本地参与方节点分别对应的第二模型；确定第一模型与各第二模型之间的余弦相似度，根据预设余弦相似度条件筛选出符合条件的第二模型；基于余弦相似度对符合条件的第二模型参数进行聚合处理，以得到全局模型对应的更新参数。

技术领域

本公开涉及人工智能技术领域，尤其涉及一种联合学习系统的模型更新方法、装置、设备及介质。

背景技术

联合学习是一种保护数据隐私的分布数据集的分布式学习范式。经典的联合学习框架包含中心节点和不同的本地参与方节点，通过各本地参与方节点对模型参数上传下发实现对全局模型的更新训练。

现有技术中的联合学习框架存在安全性问题，比如攻击者控制着一些恶意客户端，这些客户端可以是攻击者注入的虚假客户端，也可以是被攻击者破坏的真实客户端。恶意客户端可以在联合学习训练过程中，向服务器发送任意的本地模型更新参数，从而降低全局模型更新的精度，以致降低联合学习的稳定性。

发明内容

有鉴于此，本公开实施例提供了一种联合学习系统的模型更新方法、装置、设备及介质，以解决恶意客户端在联合学习训练过程中，向服务器发送任意的本地模型更新参数，从而降低全局模型更新的精度，以致降低联合学习的稳定性的问题。

本公开实施例的第一方面，提供了一种联合学习系统的模型更新方法，包括：根据中心节点对应的预置标准数据集，对中心节点对应的第一模型进行训练更新，得到第一模型；其中，预置标准数据集与本地参与方节点对应的本地数据相关；将中心节点对应的全局模型发送至各本地参与方节点，通过各本地参与方节点对应的本地数据对全局模型进行训练，得到各本地参与方节点分别对应的第二模型；确定第一模型与各第二模型之间的余弦相似度，根据预设余弦相似度条件筛选出符合条件的第二模型；基于余弦相似度对符合条件的第二模型参数进行聚合处理，以得到全局模型对应的更新参数。

本公开实施例的第二方面，提供了一种联合学习系统的模型更新装置，包括：第一模型训练模块，根据中心节点对应的预置标准数据集，对所述中心节点对应的第一模型进行训练更新，得到第一模型；其中，所述预置标准数据集与所述本地参与方节点对应的本地数据相关；第二模型训练模块，将所述中心节点对应的全局模型发送至各本地参与方节点，通过所述各本地参与方节点对应的本地数据对所述全局模型进行训练，得到所述各本地参与方节点分别对应的第二模型；模型挑选模块，确定所述第一模型与所述各第二模型之间的余弦相似度，根据预设余弦相似度条件筛选出符合条件的第二模型；全局模型获取模块，基于所述余弦相似度对所述符合条件的第二模型参数进行聚合处理，以得到全局模型对应的更新参数。

本公开实施例的第三方面，提供了一种电子设备，包括存储器、处理器以及存储在存储器中并且可在处理器上运行的计算机程序，该处理器执行计算机程序时实现上述方法的步骤。

本公开实施例的第四方面，提供了一种计算机可读存储介质，该计算机可读存储介质存储有计算机程序，该计算机程序被处理器执行时实现上述方法的步骤。

本公开实施例与现有技术相比存在的有益效果是：通过中心节点对应的预置标准数据集，对中心节点对应的第一模型进行训练更新，根据第一模型确定出模型更新的信任方向，通过该信任方向确定本地参与方节点模型更新方向是否正确，从而确定出本地参与方节点中的恶意客户端。其次，通过第一模型与各第二模型之间的余弦相似度不仅能够将恶意客户端进行剔除，也能将余弦相似度作为信任分数，根据第二模型与第一模型的信任分数值进行加权计算，得到的全局模型兼顾各第二模型与第一模型的相似度，其精度更高，从而提高联合学习框架的稳定性。

附图说明