[发明专利]横向联邦学习方法、装置、计算机设备和存储介质

说明书

本发明涉及一种横向联邦学习方法、装置、计算机设备和存储介质。该方法包括：参与者节点利用本地数据对机器学习模型进行训练，对训练后的模型参数进行同态加密，将加密数据发送给主节点；主节点对加密数据进行同态求平均处理，把经过处理的数据发送给各参与者节点；参与者节点对经过处理的数据进行解密，基于预设规则对解密后数据进行运算，并根据运算结果去除干扰数据，得到模型更新参数；参与者节点利用模型更新参数更新机器学习模型。本申请的方法，各节点之间进行数据加密传输，主节点不对接收到的加密数据进行解密，在整个横向联邦学习过程中数据传输都是在加密状态下进行的，提高了数据传输过程中的安全性，避免了数据泄露问题。

技术领域

本发明涉及人工智能领域，特别是涉及横向联邦学习方法、装置、计算机设备和存储介质。

背景技术

随着信息科技的发展，人们的数据越来越多地上传到通信网络上。在分布式系统应用场景中，在每一个端设备上，每一步的操作都有数据埋点。在数据上传通信网络给人们生活带来极大便利的同时，隐私数据保密也称为一个越来越引起人们关注的问题。隐私数据泄漏会导致极大的数据安全风险。然而应用数据来解决场景下的分析挖掘问题又不得不用到大量的隐私数据，如何有效确保隐私数据在网络传输过程中的安全称为一个亟待解决的问题。

还有其它的场景中需要训练大规模的分布式训练，分布在不同节点上的数据集可以进行合并，符合同一个特征空间下的数据。分布式集群系统包括大量的节点，各节点与主节点之间进行数据通信。黑客通常会通过截取节点与主节点之间地通信获得数据，造成数据泄漏。数据窃取者只需要对一个节点与主节点之间的通信进行数据窃取即可造成数据泄漏。

另外，在分布式系统应用场景中，需要把数据进行拷贝，每一个节点上存储同样大小的源数据，这样的存储方式需要耗费大量的存储空间存储同样的数据，造成了存储空间的浪费。

发明内容

基于此，有必要针对在分布式机器学习场景中，在进行数据传输时数据容易泄露导致数据传输安全性不佳的问题，提供一种横向联邦学习方法、装置、计算机设备和存储介质。

一种横向联邦学习方法，基于横向联邦学习系统实现，所述横向联邦学习系统包括主节点以及与所述主节点相连接的至少两个参与者节点，所述横向联邦学习方法包括：

所述参与者节点从所述主节点上下载机器学习模型，利用本地数据对所述机器学习模型进行训练，得到训练后的模型参数；

所述参与者节点对所述训练后的模型参数进行同态加密，将加密数据发送给所述主节点；

所述主节点对所述加密数据进行同态求平均处理，把经过所述同态求平均处理的数据发送给各所述参与者节点；

所述参与者节点对所述经过同态求平均处理的数据进行解密，得到解密后数据；

所述参与者节点基于预设规则对所述解密后数据进行运算，并根据运算结果去除干扰数据，得到模型更新参数；

所述参与者节点利用所述模型更新参数更新所述机器学习模型。

在其中一个实施例中，所述机器学习模型为梯度提升决策树模型，所述梯度提升决策树模型包括树节点，所述利用本地数据对所述机器学习模型进行训练包括：

每个所述参与者节点分别获取所述树节点的节点训练特征集以及所述梯度提升决策树模型的特征矩阵的梯度数据；

每个所述参与者节点分别针对所述树节点，根据所述节点训练特征集和所述梯度数据确定出局部最佳分裂规则并发送给所述主节点。

在其中一个实施例中，所述利用本地数据对所述机器学习模型进行训练包括：

将所述机器学习模型转换为计算图；

将所述本地数据输入到所述计算图中进行训练操作；