[发明专利]一种基于可选隐私数据进行模型训练的方法及系统

权利要求书

1.一种基于可选隐私数据进行模型训练的方法；所述方法包括：

第三方接收至少来自第一终端和第二终端的第一类数据；并基于接收到的第一类数据及其对应的模型参数计算第一类累计数据；

第三方通过多方安全计算的方式获取累计损失值；所述累计损失值至少由第一终端和第二终端基于所述第一类累计数据、自身的第二类数据以及样本标签确定；

第三方将所述累计损失值参与第一类累计梯度和第二类累计梯度的计算，所述第一类累计梯度和第二类累计梯度用于更新至少基于所述第一终端和第二终端的联合训练模型的参数；

其中，所述第一终端和所述第二终端分别持有第一训练数据和第二训练数据，所述第一训练数据和所述第二训练数据对应不同样本的相同特征；

所述第一训练数据和所述第二训练数据中至少一个包括对应不同隐私等级的第一类数据和第二类数据；所述第一类数据和第二类数据对应于相同的训练样本。

2.根据权利要求1所述的方法，所述联合训练的模型包括线性回归模型或逻辑回归模型。

3.根据权利要求1所述的方法，第三方将所述累计损失值参与第一类累计梯度和第二类累计梯度的计算包括：

第三方通过多方安全计算的方式获取第二类累计梯度；所述第二类累计梯度至少由第一终端和第二终端基于自身的损失值以及第二类数据确定；

第三方基于所述第二类累计梯度更新第二类模型参数。

4.根据权利要求3所述的方法，第三方将所述累计损失值参与第一类累计梯度和第二类累计梯度的计算包括：

第三方基于所述累计损失值以及至少对应于第一终端和第二终端的第一类数据计算第一类累计梯度；

第三方基于所述第一类累计梯度更新第一类模型参数。

5.根据权利要求1所述的方法，所述第一训练数据和所述第二训练数据包括与实体相关的图像数据、文本数据或声音数据。

6.根据权利要求1所述的方法，所述多方安全计算的方式包括和共享。

7.一种基于可选隐私数据进行模型训练的系统；所述系统包括：

第一类数据接收模块，用于接收至少来自第一终端和第二终端的第一类数据；

第一类累计数据确定模块，用于基于接收到的第一类数据及其对应的模型参数计算第一类累计数据；

累计损失值确定模块，用于通过多方安全计算的方式获取累计损失值；所述累计损失值至少由第一终端和第二终端基于所述第一类累计数据、自身的第二类数据以及样本标签确定；

模型参数更新模块，用于将所述累计损失值参与第一类累计梯度和第二类累计梯度的计算，所述第一类累计梯度和第二类累计梯度用于更新至少基于所述第一终端和第二终端的模型的联合训练模型的参数；

其中，第一终端和第二终端分别持有第一训练数据和第二训练数据，所述第一训练数据和所述第二训练数据对应不同样本的相同特征；

所述第一训练数据和所述第二训练数据中至少一个包括对应不同隐私等级的第一类数据和第二类数据；所述第一类数据和第二类数据对应于相同的训练样本。

8.根据权利要求7所述的系统，所述联合训练的模型包括线性回归模型或逻辑回归模型。

9.根据权利要求7所述的系统，所述模型参数更新模块还用于：

通过多方安全计算的方式获取第二类累计梯度；所述第二类累计梯度至少由第一终端和第二终端基于自身的损失值以及第二类数据确定；

基于所述第二类累计梯度更新第二类模型参数。

10.根据权利要求9所述的系统，所述模型参数更新模块还用于：

基于所述累计损失值以及至少对应于第一终端和第二终端的第一类数据计算第一类累计梯度；

基于所述第一类累计梯度更新第一类模型参数。

11.根据权利要求7所述的系统，所述第一训练数据和所述第二训练数据包括与实体相关的图像数据、文本数据或声音数据。