[发明专利]模型训练方法、使用方法、系统、可信节点及设备

说明书

本申请公开了基于联邦学习的模型训练方法、使用方法、系统、可信节点及设备，涉及机器学习领域。具体实现方案为：第一可信节点接收第一参与方发送的第一目标数据集，第一目标数据集是第一参与方基于第一预设加密方式对自身所提供的数据集进行加密处理后所得到的；对第一目标数据集进行解密处理，并确定出第一训练数据，基于第一训练数据对预设机器学习模型进行模型训练，得到第一中间训练结果；获取至少一个第二可信节点所发送的加密处理后的第二中间训练结果；至少基于所述第一中间训练结果以及解密处理后的所述第二中间训练结果对所述预设机器学习模型进行联邦学习，如此，更新所述预设机器学习模型的模型参数，得到学习完成的目标模型。

技术领域

本申请涉及大数据处理领域，尤其涉及基于联邦学习的模型训练方法、使用方法、系统、可信节点及设备。

背景技术

联邦机器学习又名联邦学习，联合学习，联盟学习。联邦机器学习指一个机器学习框架，能有效帮助多个机构(也即多个用户)在满足用户隐私保护、数据安全和政府法规的要求下，进行数据使用和机器学习建模。

联邦学习自2016年提出以来，获得了学术界和产业界的广泛关注，但由于联邦机器学习技术与数据加密技术密不可分，不论是横向联邦学习的数据特征和标签，还是纵向联邦学习的中间变量和梯度信息，都必须经过加密后进行传输，以及在加密状态下进行计算。而机器学习过程中，加密状态下进行计算必然会带来数据体积在数量级上的剧增，譬如现有在模型训练过程中所使用的同态加密算法，会导致数据体积增大30倍以上，这样，必然带来了额外的存储、计算和网络资源的消耗。

发明内容

本申请提供了一种基于联邦学习的模型训练方法、使用方法、系统、可信节点、设备及存储介质。

根据本申请的一方面，提供了一种基于联邦学习的模型训练方法，包括：

第一可信节点接收第一参与方发送的第一目标数据集，其中，所述第一目标数据集是所述第一参与方基于第一预设加密方式对自身所提供的数据集进行加密处理后所得到的；

对所述第一目标数据集进行解密处理，并确定出第一训练数据，基于所述第一训练数据对预设机器学习模型进行模型训练，得到第一中间训练结果；

获取至少一个第二可信节点所发送的加密处理后的第二中间训练结果，其中，所述第二中间训练结果是所述第二可信节点至少基于第二训练数据对所述预设机器学习模型进行模型训练后所得到；所述第二训练数据是所述第二可信节点对加密处理后的第二目标数据集进行解密处理后所确定出的；所述第二目标数据集是第二参与方所提供的用于与所述第一目标数据集进行联邦学习；

至少基于所述第一中间训练结果以及解密处理后的所述第二中间训练结果对所述预设机器学习模型进行联邦学习，以更新所述预设机器学习模型的模型参数，得到学习完成的目标模型。

根据本申请的另一方面，提供了一种基于联邦学习的模型使用方法，包括：

第一可信节点获取到待预测数据；

将所述待预测数据输入至所述第一可信节点所存储的目标模型中，得到第一输出结果，其中，所述目标模型为以上所述训练方法得到的模型。

根据本申请的另一方面，提供了一种第一可信节点，包括：

第一接收单元，用于接收第一参与方发送的第一目标数据集，其中，所述第一目标数据集是所述第一参与方基于第一预设加密方式对自身所提供的数据集进行加密处理后所得到的；

中间训练结果确定单元，用于对所述第一目标数据集进行解密处理，并确定出第一训练数据，基于所述第一训练数据对预设机器学习模型进行模型训练，得到第一中间训练结果；