[发明专利]一种联邦学习方法、装置及联邦学习系统

说明书

本申请的实施例公开了一种联邦学习方法、装置及联邦学习系统，涉及安全技术领域，为便于提高联邦学习过程中数据的安全性而发明。所述方法，包括：向数据参与方发送模型运行环境可执行镜像文件；向数据参与方发送参与方人工智能训练模型；通过虚拟机加载全局人工智能训练模型到第一安全隔离内存；第一安全隔离内存与所述中心服务器的CPU运行时所需的内存的运行环境相隔离；通过虚拟机接收数据参与方发送的中间迭代参数；中间迭代参数，由数据参与方利用本地数据集训练参与方人工智能训练模型得到；虚拟机根据所述中间迭代参数，计算全局模型参数，并基于全局模型参数判断全局人工智能训练模型的收敛是否符合预期值。本申请适用于训练人工智能模型。

技术领域

本申请涉及安全技术领域，尤其涉及一种联邦学习方法、装置及联邦学习系统。

背景技术

人工智能算法(AI，Artificial Intelligence)如机器学习和神经网络等的训练需要大量且广泛的高质量的数据集，但是这些数据往往保存在各个孤立的部门，由于隐私保护和安全法规等，无法把各部门的数据发布出来，以集中训练高精度的人工智能算法。而联邦学习算法在不需要数据拥有者提供原始数据的情况下，可以联合各方数据来参与训练高精度的AI算法模型。

现有的联邦学习架构由全局模型(中心服务器)和数据拥有者(数据参与方)两部分构成，如图1。在联邦学习的整个过程中，数据参与方始终只向中心服务器更新模型中间参数，并不需要把原始数据发送到服务器，而各个数据拥有者之间并不会彼此交换原始数据，保证本地数据的安全性。

然而，在现有的联邦学习过程中，运行在中心服务器上和/或运行在数据参与方上的恶意程序，可以通过中间参数和/或全局模型的参数，利用一定的逆向技术手段探测训练过程中的数据特征，造成数据泄露，降低了联邦学习过程中的数据的安全性。

发明内容

有鉴于此，本申请实施例提供一种联邦学习方法、装置及联邦学习系统，便于提高联邦学习过程中的数据的安全性。

第一方面，本申请实施例提供一种联邦学习方法，应用于中心服务器，包括：向数据参与方发送模型运行环境可执行镜像文件；其中，所述数据参与方为已向所述中心服务器注册的数据参与方，所述模型运行环境可执行镜像文件为人工智能训练模型的运行环境可执行镜像文件；向所述数据参与方发送参与方人工智能训练模型，以使所述参与方人工智能训练模型在所述数据参与方本地运行；通过第一虚拟机加载全局人工智能训练模型到第一安全隔离内存；其中，所述第一虚拟机运行于所述中心服务器上，所述第一安全隔离内存与所述中心服务器的CPU运行时所需的内存的运行环境相隔离；通过所述第一虚拟机接收所述数据参与方发送的中间迭代参数；所述中间迭代参数，由所述数据参与方利用本地数据集训练所述参与方人工智能训练模型得到；所述第一虚拟机根据所述中间迭代参数，计算全局模型参数，并基于所述全局模型参数判断所述全局人工智能训练模型的收敛是否符合预期值。

根据本申请实施例的一种具体实现方式，所述通过第一虚拟机加载全局人工智能训练模型到第一安全隔离内存，包括：通过第一安全处理器对全局人工智能训练模型进行解密，得到第一数字签名信息和解密后的全局人工智能训练模型；其中，所述第一安全处理器为所述中心服务器的安全处理器；所述第一安全处理器根据所述第一数字签名信息，对解密后的全局人工智能训练模型进行验证；如果通过验证，则通过第一虚拟机加载解密后的全局人工智能训练模型到第一安全隔离内存。

根据本申请实施例的一种具体实现方式，在向所述数据参与方发送参与方人工智能训练模型之前，所述方法还包括：执行数据参与方运行的执行环境的接入操作；执行数据参与方对中心服务器运行的执行环境的认证操作，以及执行对数据参与方运行的执行环境的认证操作。