[发明专利]一种模型的联合训练方法、设备、存储介质及程序产品

说明书

本申请提供了一种模型的联合训练方法、装置、设备、计算机可读存储介质及程序产品，应用于纵向联邦学习的被动方，被动方和纵向联邦学习的主动方分别利用自身的特征数据进行模型训练，所述方法包括：获取主动方发送的第二密文训练结果；获取第一密文训练结果和已训练轮数；基于第一密文训练结果和第二密文训练结果确定第一加密梯度；当已训练轮数满足同步条件时，将第一加密梯度发送至协调方，以使协调方基于第一加密梯度确定第一解密梯度；接收协调方发送的第一解密梯度，并基于第一解密梯度对自身的训练模型进行更新，得到更新后的训练模型。通过改进纵向联邦学习中模型训练时数据的交互流程，能够缩短模型的训练耗时，提高模型的训练效率。

技术领域

本申请涉及人工智能技术领域，涉及但不限于一种模型的联合训练方法、设备、存储介质及程序产品。

背景技术

近年来，回归模型被广泛地应用于解决各种问题。当回归模型的训练数据纵向分布于各个数据方时，由于各个数据方所拥有的特征数据可能涉及隐私，为避免隐私数据泄露，各数据方可以通过纵向联邦学习的方式进行模型的联合训练。

但是，相关技术中在基于纵向联邦建模时，梯度计算只能由主动方或被动方的其中一方完成，使得模型的训练效率较低；并且每计算得到一个梯度，均需要将其发送至协调方，导致传输数据量大、通讯耗时较长，尤其在大数据量以及多参与方的场景中，通讯耗时甚至超过计算耗时，严重影响模型的训练效率。

发明内容

本申请实施例提供一种模型的联合训练方法、装置、设备、计算机可读存储介质及计算机程序产品，能够缩短模型的训练耗时，提高模型的训练效率。

本申请实施例的技术方案是这样实现的：

本申请实施例提供一种模型的联合训练方法，应用于纵向联邦学习的被动方，所述被动方和所述纵向联邦学习的主动方分别利用自身的特征数据进行模型训练，所述方法包括：

获取所述主动方发送的第二密文训练结果；

获取第一密文训练结果和已训练轮数；

基于所述第一密文训练结果和所述第二密文训练结果确定第一加密梯度；

当所述已训练轮数满足同步条件时，将所述第一加密梯度发送至协调方，以使所述协调方基于所述第一加密梯度确定第一解密梯度；

接收所述协调方发送的所述第一解密梯度，并基于所述第一解密梯度对自身的训练模型进行更新，得到更新后的训练模型。

本申请实施例提供一种模型的联合训练方法，应用于纵向联邦学习的协调方，所述方法包括：

生成用于加密的公钥和用于解密的私钥；

将所述公钥分别发送至进行模型训练的被动方和主动方，以使所述被动方和所述主动方分别基于所述公钥确定第一加密梯度和第二加密梯度；

接收所述被动方发送的第一加密梯度和所述主动方发送的第二加密梯度；

基于所述私钥分别对所述第一加密梯度和所述第二加密梯度进行解密，得到第一解密梯度和第二解密梯度；

将所述第一解密梯度和所述第二解密梯度分别发送至所述被动方和所述主动方，以使所述被动方和所述主动方分别基于所述第一解密梯度和所述第二解密梯度更新各自的训练模型。

本申请实施例提供一种模型的联合训练装置，应用于纵向联邦学习的被动方，所述被动方和所述纵向联邦学习的主动方分别利用自身的特征数据进行模型训练，所述装置包括：

第一获取模块，用于获取所述主动方发送的第二密文训练结果；

第二获取模块，用于获取第一密文训练结果和已训练轮数；

第一确定模块，用于基于所述第一密文训练结果和所述第二密文训练结果确定第一加密梯度；