[发明专利]用于预测信息的方法和装置

权利要求书

1.一种用于预测信息的方法，包括：

获取用户的特征；

将所述用户的特征分别输入至预先训练的第一模型和第二模型，得到所述用户的第一预测结果和第二预测结果，其中，所述第一模型和所述第二模型分别对应不同类别的机构，且基于各自对应的训练样本采用纵向联邦学习方法训练得到；

汇总所述第一预测结果和所述第二预测结果，生成所述用户的预测结果；

其中，所述第一模型和所述第二模型通过如下步骤训练：

获取所述第一模型对应的第一训练样本、所述第二模型对应的第二训练样本和第三模型对应的第三训练样本，其中，所述第一训练样本包括第一样本用户的第一样本特征和第一样本标签，所述第二训练样本包括第二样本用户的第二样本特征，所述第一模型和第三模型分别对应相同类别的不同机构，所述第三训练样本包括第三样本用户的第三样本特征和第三样本标签，其中，第一样本标签是第一样本特征对应的数值，第三样本标签是第三样本特征对应的数值；

基于所述第一训练样本和所述第三训练样本采用横向联邦学习方法对所述第一模型和所述第三模型进行训练，其中，横向联邦学习是把第一训练样本和第三训练样本按照横向切分，并取出双方用户的特征相同而用户不完全相同的那部分样本进行训练；

之后，基于所述第一训练样本和所述第二训练样本采用纵向联邦学习方法对采用横向联邦学习方法训练得到的第一模型和所述第二模型进行训练。

2.根据权利要求1所述的方法，其中，所述基于所述第一训练样本和所述第二训练样本采用纵向联邦学习方法对采用横向联邦学习方法训练得到的第一模型和所述第二模型进行训练，包括：

获取所述第一模型的当前梯度值和所述第二模型的当前梯度值；

对所述第一模型的当前梯度值和所述第二模型的当前梯度值进行公钥加密，得到所述第一模型的当前公钥加密梯度值和所述第二模型的当前公钥加密梯度值；

汇总所述第一模型的当前公钥加密梯度值和所述第二模型的当前公钥加密梯度值，得到当前公钥加密梯度值；

对所述当前公钥加密梯度值进行私钥解密，得到当前私钥解密梯度值；

基于所述当前私钥解密梯度值分别更新所述第一模型和所述第二模型。

3.根据权利要求2所述的方法，其中，所述基于所述第一训练样本和所述第二训练样本采用纵向联邦学习方法对采用横向联邦学习方法训练得到的第一模型和所述第二模型进行训练，还包括：

获取所述第一模型的当前中间值和所述第二模型的当前中间值；

对所述第一模型的当前中间值和所述第二模型的当前中间值进行公钥加密，得到所述第一模型的当前公钥加密中间值和所述第二模型的当前公钥加密中间值；

基于所述第二模型的当前公钥加密中间值训练所述第一模型，以及基于所述第一模型的当前公钥加密中间值训练所述第二模型。

4.根据权利要求3所述的方法，其中，所述基于所述第一训练样本和所述第二训练样本采用纵向联邦学习方法对采用横向联邦学习方法训练得到的第一模型和所述第二模型进行训练，还包括：

获取所述第一模型的当前损失值；

对所述第一模型的当前损失值进行公钥加密，得到所述第一模型的当前公钥加密损失值；以及

所述汇总所述第一模型的当前公钥加密梯度值和所述第二模型的当前公钥加密梯度值，得到当前公钥加密梯度值，包括：

对所述第一模型的当前公钥加密损失值进行私钥解密，得到所述第一模型的当前私钥解密损失值；

基于所述第一模型的当前私钥解密损失值汇总所述第一模型的当前公钥加密梯度值和所述第二模型的当前公钥加密梯度值，得到当前公钥加密梯度值。

5.根据权利要求2所述的方法，其中，在所述基于所述当前私钥解密梯度值分别更新所述第一模型和所述第二模型之后，还包括：

获取所述第一模型的当前损失值和所述第二模型的当前损失值；

确定所述第一模型的当前损失值和所述第二模型的当前损失值是否收敛；

若所述第一模型的当前损失值和所述第二模型的当前损失值收敛，确定所述第一模型和所述第二模型训练完成。