[发明专利]基于联邦学习的数据处理方法、装置、设备及介质

权利要求书

1.一种基于联邦学习的数据处理方法，其特征在于，包括第一终端执行的如下步骤：

确定所述第一终端和第二终端共有的用户特征数据；所述第一终端对应第一待训练模型；所述第二终端对应第二待训练模型；所述第一终端包括与所述用户特征数据对应的训练标签数据；

对所述用户特征数据进行特征编码处理，得到待处理特征数据；

获取基于所述待处理特征数据进行处理所得到的模型预测值；

获取采用预定义的损失函数对所述训练标签数据和所述模型预测值进行处理所得到的损失值；

若所述损失值为外部损失值，则将所述外部损失值以加密方式发送给第二终端，以使所述第二终端基于所述外部损失值和所述第二待训练模型对应的当前模型参数，确定目标梯度，根据所述目标梯度对所述第二待训练模型进行模型优化；

若所述损失值为内部损失值，则基于所述内部损失值和所述第一待训练模型对应的当前模型参数，确定目标梯度，根据所述目标梯度对所述第一待训练模型进行模型优化，获取目标预测模型。

2.如权利要求1所述基于联邦学习的数据处理方法，其特征在于，所述获取基于所述待处理特征数据进行处理所得到的模型预测值，包括：

接收所述第二终端以加密方式发送的采用所述第二待训练模型对所述待处理特征数据进行处理所得到的模型预测值。

3.如权利要求1所述基于联邦学习的数据处理方法，其特征在于，所述获取基于所述待处理特征数据进行处理所得到的模型预测值，包括：

采用所述第一待训练模型对所述待处理特征数据进行处理，得到所述模型预测值。

4.如权利要求1所述基于联邦学习的数据处理方法，其特征在于，所述基于所述内部损失值和所述第一待训练模型对应的当前模型参数，确定目标梯度，包括：

根据所述内部损失值和所述第一待训练模型对应的当前模型参数进行计算，得到原始梯度；

基于所述第一待训练模型对应的当前模型参数，获取边界条件；

基于所述边界条件，对所述原始梯度进行处理，获取目标梯度。

5.如权利要求4所述基于联邦学习的数据处理方法，其特征在于，所述基于所述原始梯度和所述第一待训练模型对应的当前模型参数，获取边界条件，包括：

获取第一超参数和第二超参数；

计算所述第一待训练模型对应的当前模型参数对应的第一范数；

将所述第一超参数和所述第一范数的乘积作为上边界，将所述第二超参数和所述第一范数的乘积作为下边界；

基于所述上边界和所述下边界，得到所述边界条件。

6.如权利要求5所述基于联邦学习的数据处理方法，其特征在于，所述基于所述边界条件，对所述原始梯度进行处理，获取目标梯度，包括：

计算所述原始梯度对应的第二范数，将所述第一范数和所述第二范数的比值作为待判断比值；

若所述待判断比值满足所述边界条件，则将所述原始梯度作为所述目标梯度；

若所述待判断比值小于所述边界条件的上边界，则按照第一计算公式对所述原始梯度进行处理，得到所述目标梯度；所述第一计算公式为其中，bl表示第一超参数，||ω||表示第一范数，||g||表示第二范数；g表示所述原始梯度；ω表示所述当前模型参数；

若所述待判断比值大于所述边界条件的下边界，则按照第二计算公式对所述原始梯度进行处理，得到所述目标梯度；所述第二计算公式包括其中，bh表示第二超参数；||ω||表示第一范数，||g||表示第二范数；g表示所述原始梯度；ω表示所述当前模型参数。

7.如权利要求4所述基于联邦学习的数据处理方法，其特征在于，在所述根据所述内部损失值和所述第一待训练模型对应的当前模型参数进行计算，得到原始梯度之前，所述基于联邦学习的数据处理方法还包括：

若所述内部损失值大于预设阈值，则执行所述根据所述内部损失值和所述第一待训练模型对应的当前模型参数进行计算，得到原始梯度的步骤。