[发明专利]提升安全性的纵向联邦学习方法、设备、系统及存储介质

说明书

本发明公开了一种提升安全性的纵向联邦学习方法、设备、系统及存储介质，所述方法包括：接收各数据方发送的加随机数加密梯度值，其中，各数据方加密交换用于计算梯度值的中间结果计算得到各自模型参数对应的加密梯度值，并对加密梯度值加上各自的第一随机数得到加随机数加密梯度值；对加随机数加密梯度值进行解密得到加随机数梯度值；将加随机数梯度值对应返回给各数据方，以供各数据方对加随机数梯度值消除随机数得到梯度值，并采用梯度值更新各自的模型参数；迭代训练得到训练完成的逻辑回归模型。本发明实现了在联合第三方进行纵向联邦逻辑回归建模的方案中，避免第三方联合其中一方窃取数据的可能性，提高了逻辑回归建模的安全性。

技术领域

本发明涉及机器学习技术领域，尤其涉及一种提升安全性的纵向联邦学习方法、设备、系统及存储介质。

背景技术

随着机器学习技术的发展，目前，逻辑回归模型被广泛地应用于各种分类问题。当逻辑回归模型的训练数据纵向分布于各个数据方时，由于各个数据方所拥有的训练数据可能涉及隐私，为保证建模过程不会泄露各数据方的数据隐私，各数据方可以通过纵向联邦的方式进行联合建模。但是，现有的联合第三方进行纵向联邦逻辑回归建模的实现方案中，在每轮计算梯度时，数据方将加密的梯度值发送给第三方(协作方)，如果第三方和其中一方联合起来窃取另一方的数据，就能够获取到完整的模型，从而可能推导出另一方的原始数据，导致另一方的原始数据泄露。因此，目前的联合第三方进行纵向联邦逻辑回归建模的实现方案存在安全性低的问题。

发明内容

本发明的主要目的在于提供一种提升安全性的纵向联邦学习方法、设备、系统及存储介质，旨在解决目前的联合第三方进行纵向联邦逻辑回归建模的实现方案存在安全性低的问题。

为实现上述目的，本发明提供一种提升安全性的纵向联邦学习方法，所述提升安全性的纵向联邦学习方法应用于参与纵向联邦逻辑回归建模的协作方，所述协作方与拥有训练数据的各数据方通信连接，各数据方各自拥有逻辑回归模型的一部分，所述提升安全性的纵向联邦学习方法包括：

接收各数据方发送的加随机数加密梯度值，其中，各数据方加密交换用于计算梯度值的中间结果，计算得到各自模型参数对应的加密梯度值，并对所述加密梯度值加上各自的第一随机数得到所述加随机数加密梯度值；

对所述加随机数加密梯度值进行解密得到加随机数梯度值；

将所述加随机数梯度值对应返回给各数据方，以供各数据方对所述加随机数梯度值消除随机数得到梯度值，并采用所述梯度值更新各自的模型参数；

迭代训练直到检测到满足预设停止条件时得到训练完成的逻辑回归模型。

可选地，所述对所述加随机数加密梯度值进行解密得到加随机数梯度值的步骤之后，还包括：

对所述加随机数梯度值加上第二随机数以更新所述加随机数梯度值，并对所述第二随机数进行加密得到加密随机数，其中，所述第二随机数与所述第一随机数不相同；

所述将所述加随机数梯度值对应返回给各数据方的步骤包括：

将更新后的所述加随机数梯度值和所述加密随机数对应返回给各数据方，以供各数据方采用所述加密随机数对所述加随机数梯度值消除随机数，并采用消除随机数的结果更新各自的加密模型参数；

所述迭代训练直到检测到满足预设停止条件时得到训练完成的逻辑回归模型的步骤包括：

迭代训练直到满足预设停止条件时停止训练，并接收各数据方发送的训练完成的加密模型参数；

对所述训练完成的加密模型参数进行解密得到训练完成的逻辑回归模型。

可选地，所述接收各数据方发送的加随机数加密梯度值的步骤之前，还包括：

向各数据方发送同态加密的加密密钥；