[发明专利]一种混合联邦学习方法及架构

说明书

本发明公开了一种混合联邦学习方法及架构，该方法适用于具有多组参与者的联邦学习模型训练；其中方法为：针对每个组，根据组内参与者的数据集联合训练每组的第一联邦学习模型；对各组的第一联邦学习模型进行融合得到第二联邦学习模型，并将所述第二联邦学习模型发送给每个组内参与者；针对每个组，根据所述第二联邦学习模型及所述组内参与者的数据集训练得到更新后的第一联邦学习模型，返回对各组的第一联邦学习模型进行融合得到第二联邦学习模型的步骤，直至模型训练结束。上述方法应用于金融科技(Fintech)时，可以提升联邦学习模型的准确率。

技术领域

本发明涉及金融科技(Fintech)领域和联邦学习领域，尤其涉及一种混合联邦学习方法及架构。

背景技术

随着计算机技术的发展，越来越多的技术(大数据、分布式、区块链(Blockchain)、人工智能等)应用在金融领域，传统金融业正在逐步向金融科技(Fintech)转变。目前，金融科技领域中许多金融策略的调整都依赖于对大量金融交易数据进行联邦学习的结果，相应金融策略的调整很可能对金融机构的盈亏造成影响。因此，对一个金融机构来说，其联邦学习模型的精确性至关重要。

然而，目前应用联邦学习的场景中，经常会遇到参与者A和B拥有的数据虽然能形成互补，可以联合构建机器学习模型，但是参与者A和B拥有的数据量仍然非常少，构建的联合模型的性能难以达到预期指标，从而联合模型的精确度也不够高。因此，现有技术中，联邦学习得到的联合模型的精确度不够高是一个亟待解决的问题。

发明内容

本申请实施例提供一种混合联邦学习方法及架构，解决了现有技术中联邦学习模型不够精确的问题。

第一方面，本申请实施例提供一种混合联邦学习方法，该方法适用于具有多组参与者的联邦模型训练，其中，同一组内的参与者的数据集之间包含有相同的样本对象及不同的样本特征；不同组间的参与者的数据集之间包含有相同的样本特征及不同的样本对象；所述方法包括：针对每个组，根据组内参与者的数据集联合训练每组的第一联邦学习模型；其中，训练所述第一联邦学习模型的过程中组内每个参与者都与组内其他参与者交换了训练的中间结果；对各组的第一联邦学习模型进行融合得到第二联邦学习模型，并将所述第二联邦学习模型发送给每个组内参与者；针对每个组，根据所述第二联邦学习模型及所述组内参与者的数据集训练得到更新后的第一联邦学习模型，返回对各组的第一联邦学习模型进行融合得到第二联邦学习模型的步骤，直至模型训练结束。

上述方法中，获得的至少一个纵向联邦学习模型中，由于第一联邦学习模型是组内每个参与者在训练过程中根据组内其他参与者训练的中间结果确定的，因此每组的第一联邦学习模型已经进行了一轮优化，再对各组的第一联邦学习模型进行融合得到第二联邦学习模型，并针对每个组，根据所述第二联邦学习模型及所述组内参与者的数据集得到更新后的第一联邦学习模型，因此获取到的适用于各组参与者的联邦学习模型充分考虑了各个第一联邦学习模型，在各组的第一联邦学习模型基础上进一步优化，因此通过上述方法可以大幅提高联邦学习的扩展性，结合了考虑了更多参与者的数据，实现对海量数据的联邦学习，从而增加了联邦学习的精确性。

一种可选实施方式中，所述模型训练结束的预设终止条件包括以下至少一项：所述第二联邦学习模型的参数收敛；所述第二联邦学习模型的更新次数大于或等于预设训练次数；所述第二联邦学习模型的训练时间大于或等于预设训练时长。

上述方法中，提供了训练结束的具体终止条件，当满足以上一项或多项时就停止训练，从而避免因为训练联邦学习模型不停止而消耗资源。