[发明专利]一种模型训练方法、装置和电子设备

权利要求书

1.一种模型训练方法，其特征在于，所述方法适用于目标模型训练所依赖的数据纵向分布在多个数据提供方的场景，所述方法包括：

接收各数据提供方上传的中间结果，其中，所述中间结果包括第一中间结果，所述第一中间结果为密文，所述第一中间结果依据各数据提供方基于本地私有数据对各自拥有的部分目标模型进行训练得到，各数据提供方拥有的部分目标模型联合构成所述目标模型；

在密文基础上基于多方安全计算协议依据各数据提供方上传的第一中间结果进行运算，确定所述目标模型的模型更新因子；

将所述目标模型的模型更新因子，拆分为各数据提供方对应部分目标模型所需的模型更新因子并分发给对应的数据提供方；以使各数据提供方分别依据接收到的模型更新因子更新对应的部分目标模型，并对更新后的部分目标模型进行一轮训练以得到需上传的第一中间结果。

2.根据权利要求1所述的方法，其特征在于，当所述第一中间结果为计算目标模型的梯度所需的中间结果时，所述在密文基础上基于多方安全计算协议依据各数据提供方上传的第一中间结果进行运算，确定所述目标模型的模型更新因子，包括：

根据计算目标模型的梯度所需的中间结果，在密文基础上基于多方安全计算协议进行运算，得到所述目标模型对应损失函数的梯度；

依据所述目标模型对应损失函数的梯度，确定所述目标模型的模型更新因子。

3.根据权利要求1所述的方法，其特征在于，当所述第一中间结果为计算目标模型的预测结果所需的中间结果时，所述在密文基础上基于多方安全计算协议依据各数据提供方上传的第一中间结果进行运算，确定所述目标模型的模型更新因子，包括：

根据计算目标模型的预测结果所需的中间结果的密文，在密文基础上基于多方安全计算协议进行运算，得到所述目标模型的预测结果；

依据所述目标模型的预测结果，确定所述目标模型对应损失函数的梯度计算因子；

依据所述目标模型对应损失函数的梯度计算因子，确定所述目标模型的模型更新因子。

4.根据权利要求1所述的方法，其特征在于，所述的方法还包括：

判断是否需要继续训练所述目标模型；

若确定需要继续训练所述目标模型，则执行所述在密文基础上基于多方安全计算协议依据各数据提供方上传的第一中间结果进行运算，确定所述目标模型的模型更新因子的步骤；

若确定需要停止继续训练所述目标模型，则将最后得到的目标模型的目标模型参数发送至模型需求方，以及向各数据提供方发送结束训练消息。

5.根据权利要求4所述的方法，其特征在于，当所述模型需求方包括多个时，则所述将最后得到的目标模型的目标模型参数发送至模型需求方，包括：

将最后得到的目标模型的目标模型参数进行拆分并分发给对应的模型需求方。

6.根据权利要求4所述的方法，其特征在于，所述中间结果还包括第二中间结果，所述第二中间结果包括损失函数的中间结果，所述损失函数的中间结果是根据各数据提供方依据上一更新轮次接收到的模型更新因子对所拥有的部分目标模型进行更新后确定；

所述判断是否需要继续训练所述目标模型，包括：

在密文的基础上基于多方安全计算将各数据提供方上传的第二中间结果进行合并，得到所述目标模型对应损失函数的值；

在密文的基础上基于多方安全计算，依据所述目标模型对应损失函数的值判断是否需要继续训练所述目标模型。

7.根据权利要求1所述的方法，其特征在于，所述第一中间结果由数据提供方基于秘密分享协议进行分片编码得到；

所述在密文基础上基于多方安全计算协议依据各数据提供方上传的第一中间结果进行运算，确定所述目标模型的模型更新因子，包括：

在密文基础上基于秘密分享协议将各数据提供方上传的第一中间结果进行运算，确定所述目标模型的模型更新因子。