[发明专利]基于联邦学习的数据处理方法、装置、设备及介质

说明书

本发明公开一种基于联邦学习的数据处理方法、装置、设备及介质，包括第一终端执行的如下步骤：确定第一终端和第二终端共有的用户特征数据；对用户特征数据进行特征编码处理，得到待处理特征数据；获取基于待处理特征数据进行处理所得到的模型预测值；获取采用预定义的损失函数对训练标签数据和模型预测值进行处理所得到的损失值；若损失值为外部损失值，则将外部损失值以加密方式发送给第二终端；若损失值为内部损失值，则基于内部损失值和第一待训练模型对应的当前模型参数，确定目标梯度，根据目标梯度对第一待训练模型进行模型优化，获取目标预测模型。该基于联邦学习的数据处理方法可有效提高模型训练效率以及准确率。

技术领域

本发明涉及人工智能技术领域，尤其涉及一种基于联邦学习的数据处理方法、装置、设备及介质。

背景技术

随着人工智能技术的广泛应用，各种机器学习方法随之产生。当前，为解决数据孤岛、实现敏感数据不对外提供的前提下实现信息的交互与模型的学习，提出一种新型学习方法-联邦学习。联邦学习(Federated Learning)是一种新兴的人工智能基础技术，其设计目标是在保障大数据交换时的信息安全、保证合法合规的前提下，在多参与方或多计算结点之间开展高效率的机器学习。

目前，某些金融机构在训练模型时，由于金融机构自身的用户数据不能满足训练的需要，则需要联立其他金融机构的用户数据进行深度学习，为保证用户数据的安全性，采用联邦学习思想进行模型训练，以通过学习不同数据方提供的用户数据进行模型训练。由于当前模型训练所采用的数据来自多方机构(即来自不同的数据方)，而对于不同的数据方，其各自拥有的数据相关性存在差异、数据标量不一以及数据类型不一，因此，多个数据方训练各自模型的学习速率相差较大，使得模型学习过程中出现较大波动，学习效率较低，即模型训练效率低，导致各机构训练模型时耗费较大成本且由于多方数据的关键信息不同，采用同一套优化算法进行优化，导致模型训练准确率较低。

发明内容

本发明实施例提供一种基于联邦学习的数据处理方法、装置、设备及介质，以解决目前采用多数据方提供的数据训练模型时，训练效率以及准确率较低的问题。

一种基于联邦学习的数据处理方法，包括第一终端执行的如下步骤：

确定所述第一终端和第二终端共有的用户特征数据；所述第一终端对应第一待训练模型；所述第二终端对应第二待训练模型；所述第一终端包括与所述用户特征数据对应的训练标签数据；

对所述用户特征数据进行特征编码处理，得到待处理特征数据；

获取基于所述待处理特征数据进行处理所得到的模型预测值；

获取采用预定义的损失函数对所述训练标签数据和所述模型预测值进行处理所得到的损失值；

若所述损失值为外部损失值，则将所述外部损失值以加密方式发送给第二终端，以使所述第二终端基于所述外部损失值和所述第二待训练模型对应的当前模型参数，确定目标梯度，根据所述目标梯度对所述第二待训练模型进行模型优化；

若所述损失值为内部损失值，基于所述内部损失值和所述第一待训练模型对应的当前模型参数，确定目标梯度，根据所述目标梯度对所述第一待训练模型进行模型优化，获取目标预测模型。

一种基于联邦学习的数据处理装置，包括：

用户特征数据确定模块，用于确定所述第一终端和第二终端共有的用户特征数据；所述第一终端对应第一待训练模型；所述第二终端对应第二待训练模型；所述第一终端包括与所述用户特征数据对应的训练标签数据；

特征编码模块，用于对所述用户特征数据进行特征编码处理，得到待处理特征数据；

模型预测值获取模块，用于获取基于所述待处理特征数据进行处理所得到的模型预测值；