[发明专利]一种模型训练方法、装置和电子设备

权利要求书

1.一种模型训练方法，其特征在于，所述方法适用于目标模型训练所依赖的数据横向分布在多个数据提供方的场景，所述方法包括：

接收各数据提供方上传的中间结果，其中，所述中间结果为密文，所述中间结果是各数据提供方基于本地私有数据对目标模型进行训练得到的；

在密文基础上基于多方安全计算协议将各数据提供方上传的中间结果进行合并，确定所述目标模型的模型更新后的参数并存储；

将所述模型更新后的参数分发给各数据提供方；以使各数据提供方分别依据所述模型更新后的参数更新所述目标模型，对更新后的目标模型进行一轮训练以得到需上传的中间结果。

2.根据权利要求1所述的方法，其特征在于，当所述中间结果为模型参数时，所述在密文基础上基于多方安全计算协议将各数据提供方上传的中间结果进行合并，确定所述目标模型的模型更新后的参数，包括：

确定各数据提供方对应的权重信息；

按照各数据提供方对应的权重信息，在密文基础上采用多方安全计算协议对各数据提供方上传的模型参数进行加权计算，得到所述目标模型的模型更新后的参数。

3.根据权利要求1所述的方法，其特征在于，当所述中间结果为梯度参数时，所述在密文基础上基于多方安全计算协议将各数据提供方上传的中间结果进行合并，确定所述目标模型的模型更新后的参数，包括：

确定各数据提供方对应的权重信息；

按照各数据提供方对应的权重信息，在密文基础上采用多方安全计算协议对各数据提供方上传的梯度参数进行加权计算；

在密文基础上基于多方安全计算协议，采用加权计算的结果对所述目标模型进行参数更新，得到所述目标模型的模型更新后的参数。

4.根据权利要求1所述的方法，其特征在于，当所述中间结果为梯度参数时，所述在密文基础上基于多方安全计算协议将各数据提供方上传的中间结果进行合并，确定所述目标模型的模型更新后的参数，包括：

在密文基础上基于多方安全计算协议，依次采用各数据提供方上传的梯度参数对所述目标模型进行更新，得到所述目标模型的模型更新后的参数；或，

在密文基础上基于多方安全计算协议，分别采用各数据提供方上传的梯度参数对所述目标模型进行更新，得到各数据提供方对应的模型更新后的参数；以及在密文基础上基于多方安全计算协议将各数据提供方对应的模型更新后的参数进行加权计算，得到所述目标模型的模型更新后的参数。

5.根据权利要求1所述的方法，其特征在于，在接收各数据提供方上传的中间结果之后，所述的方法还包括：

判断所述目标模型的上一更新轮次是否是混淆更新轮次；

若所述目标模型的上一更新轮次是正常更新轮次，则判断是否需要继续训练所述目标模型；

所述在密文基础上基于多方安全计算协议将各数据提供方上传的中间结果进行合并并存储，包括：

若确定需要继续训练所述目标模型，则在密文基础上基于多方安全计算协议，将各数据提供方在当前更新轮次上传的中间结果进行合并，确定所述目标模型的模型更新后的参数并存储。

6.根据权利要求5所述的方法，其特征在于，在所述在密文基础上基于多方安全计算协议将各数据提供方上传的中间结果进行合并，确定所述目标模型的模型更新后的参数并存储之后，所述的方法还包括：

判断所述目标模型的当前更新轮次是否是混淆更新轮次；

若确定需要继续训练所述目标模型且所述目标模型的当前更新轮次是混淆更新轮次，则将预设的混淆参数分发给各数据提供方；以使各数据提供方分别依据混淆参数更新所述目标模型，对更新后的目标模型进行一轮训练以得到需上传的中间结果；

所述将所述模型更新后的参数分发给各数据提供方，包括：

若确定需要继续训练所述目标模型且所述目标模型的当前更新轮次是正常更新轮次，则将基于各数据提供方在当前更新轮次上传的中间结果进行合并得到的模型更新后的参数分发给各数据提供方。