[发明专利]联邦模型训练方法、装置、可读存储介质及设备

权利要求书

1.一种联邦模型训练方法，其特征在于，执行于第一参与方，所述方法包括：

获取第一参与方的第一模型的第一回归结果、以及第二参与方的第二模型的第二回归结果，其中，所述第一回归结果为所述第一模型基于所述第一模型的第一模型参数和第一训练数据确定的，所述第二回归结果为所述第二模型基于所述第二模型的第二模型参数和第二训练数据确定的；

采用目标损失函数，对所述第一模型的第一模型参数进行链式求导，以确定所述第一模型参数的目标梯度值计算公式；

基于所述目标梯度值计算公式、所述第一回归结果、所述第二回归结果、以及所述第一训练数据的标签数据，确定所述第一模型参数更新过程中的目标中间结果；

基于所述目标梯度值计算公式、所述目标中间结果、以及所述第一训练数据，计算所述第一模型参数的目标梯度值；

基于所述第一模型参数的目标梯度值、以及所述第一模型的预设学习率，确定所述第一模型的新模型参数，并采用所述新模型参数更新所述第一模型参数，以对所述第一模型进行训练。

2.根据权利要求1所述的方法，其特征在于，所述基于所述目标梯度值计算公式、所述第一回归结果、所述第二回归结果、以及所述第一训练数据的标签数据，确定所述第一模型参数更新过程中的目标中间结果，包括：

基于所述第一回归结果、所述第二回归结果、所述第一训练数据的标签数据、以及预设函数，确定所述第一模型参数更新过程中的中间结果；

基于所述目标梯度值计算公式、所述标签数据以及所述中间结果，确定所述第一模型参数更新过程中的目标中间结果；

其中，所述预设函数用于在目标矩阵中目标元素值小于1的情况下，将所述目标元素值更新为1，在所述目标元素值大于等于1的情况下，将所述目标元素值更新为0，以得到所述中间结果，所述目标矩阵为所述第一回归结果与所述第二回归结果的和与所述标签数据进行点乘后得到的矩阵。

3.根据权利要求1或2所述的方法，其特征在于，

在所述第一训练数据和所述第二训练数据为线性可分的数据集的情况下，所述第一模型和所述第二模型均为线性支持向量机；所述第一回归结果等于所述第一模型参数和所述第一训练数据的乘积，所述第二回归结果等于所述第二模型参数和所述第二训练数据的乘积，所述第一模型参数的目标梯度值等于所述目标中间结果与所述第一训练数据的乘积。

4.根据权利要求1或2所述的方法，其特征在于，

在所述第一训练数据和所述第二训练数据为非线性可分的数据集的情况下，所述第一模型和所述第二模型均为非线性支持向量机；所述第一回归结果等于所述第一模型参数与第一核函数矩阵的乘积，所述第二回归结果等于所述第二模型参数与第二核函数矩阵的乘积，所述第一核函数矩阵为关于所述第一训练数据的核函数矩阵，所述第二核函数矩阵为关于所述第二训练数据的核函数矩阵；所述第一模型参数的目标梯度值等于所述目标中间结果与目标核函数矩阵的乘积，所述目标核函数矩阵为关于所述第一训练数据的核函数矩阵。

5.一种联邦模型训练方法，其特征在于，执行于第二参与方，所述方法包括：

从第一参与方获取目标中间结果，其中，所述目标中间结果为所述第一参与方基于第一参与方计算的目标梯度值计算公式、所述第一参与方的第一模型的第一回归结果、第二参与方的第二模型的第二回归结果、以及所述第一模型的第一训练数据的标签数据，确定的所述第一模型参数更新过程中的结果，所述目标梯度值计算公式为所述第一参与方采用目标损失函数，对所述第一模型的第一模型参数进行链式求导获得的；

采用所述目标损失函数，对所述第二模型的第二模型参数进行链式求导，以确定所述第二模型的第二模型参数的目标梯度值计算公式；

基于第二模型的第二模型参数的目标梯度值计算公式、所述目标中间结果、以及所述第二模型的第二训练数据，计算所述第二模型的第二模型参数的目标梯度值；

基于所述第二模型参数的目标梯度值、以及与所述第二模型和所述第一模型均对应的预设学习率，确定所述第二模型的新模型参数，并采用所述新模型参数更新所述第二模型参数，以对所述第二模型进行训练。