[发明专利]联邦学习建模优化方法、设备、介质及产品

说明书

本申请公开了一种联邦学习建模优化方法、设备、介质及产品，应用于第一方，包括：提取第一方待训练样本及其对应的预设真实标签；基于待训练第一方底端特征提取模型，将第一方训练样本和预设第一方底端护照数据共同转换为第一方训练中间输出；基于第一方训练中间输出、预设真实标签、预设第一方顶端护照数据以及待训练顶端预测模型，联合各第二方生成的第二方训练中间输出，计算待训练顶端预测模型对应的模型总损失；基于所述模型总损失，优化待训练第一方底端特征提取模型和待训练顶端预测模型，获得第一方底端特征提取模型和顶端预测模型。本申请解决了联邦学习建模时计算效率低的技术问题。

技术领域

本申请涉及金融科技(Fintech)的人工智能技术领域，尤其涉及一种联邦学习建模优化方法、设备、介质及产品。

背景技术

随着金融科技，尤其是互联网科技金融的不断发展，越来越多的技术(如分布式、人工智能等)应用在金融领域，但金融业也对技术提出了更高的要求，如对金融业对应待办事项的分发也有更高的要求。

随着计算机技术的不断发展，联邦学习的应用也越来越广泛，目前，在联邦学习过程中，通常采用同态加密或者多方安全计算的方式保护数据隐私，但是，多方安全计算涉及到复杂的密码学操作，因此通信和计算开销都较大，使得联邦学习时的计算效率较低。而同态加密后的密文数据的数据复杂度和数据量远远大于明文数据，所以同态加密的计算开销极大，使得联邦学习时的计算效率较低，且同态加密的方式在联邦学习过程中需要执行大量的加解密过程，将进一步降低联邦学习时的计算效率。

发明内容

本申请的主要目的在于提供一种联邦学习建模优化方法、设备、介质及产品，旨在解决现有技术中联邦学习时计算效率低的技术问题。

为实现上述目的，本申请提供一种联邦学习建模优化方法，所述联邦学习建模优化方法应用于第一方，所述联邦学习建模优化方法包括：

获取待训练第一方底端特征提取模型和待训练顶端预测模型，并提取第一方待训练样本和所述第一方训练样本对应的预设真实标签；

基于所述待训练第一方底端特征提取模型，将所述第一方训练样本和预设第一方底端护照数据共同转换为具有护照嵌入的第一方训练中间输出；

基于所述第一方训练中间输出、所述预设真实标签、预设第一方顶端护照数据以及所述待训练顶端预测模型，通过与各第二方进行联邦交互，联合各所述第二方生成的具有护照嵌入的第二方训练中间输出，计算所述待训练顶端预测模型对应的模型总损失，其中，所述第二方训练中间输出由所述第二方获取的待训练第二方底端特征提取模型，对预设第二方底端护照数据和所述第一方训练样本对应的第二方训练样本进行转换得到；

基于所述模型总损失，优化所述待训练第一方底端特征提取模型和所述待训练顶端预测模型，获得第一方底端特征提取模型和顶端预测模型。

为实现上述目的，本申请提供一种联邦学习建模优化方法，所述联邦学习建模优化方法应用于第二方，所述联邦学习建模优化方法包括：

获取待训练第二方底端特征提取模型，并提取第二方训练样本；

基于所述待训练第二方底端特征提取模型，将所述第二方训练样本与预设第二方底端护照数据转换为第二方训练中间输出；

将所述第二方训练中间输出发送至第一方，以供所述第一方聚合各所述第二方发送的第二方训练中间输出，以及基于第一方训练样本与预设第一方底端护照数据转换得到的第一方训练中间输出，获得聚合训练中间输出，并基于所述聚合训练中间输出和预设第一方顶端护照数据转换得到的输出预测标签，以及所述第一方训练样本对应的预设真实标签，计算模型总损失；

接收所述第一方发送的模型总损失相对于所述第二方训练中间输出的第二方梯度，并基于所述第二方梯度，优化所述待训练第二方底端特征提取模型，获得第二方底端特征提取模型。