[发明专利]基于联邦学习的系统安全漏洞检测方法及设备

说明书

本申请涉及一种基于联邦学习的系统安全漏洞检测方法及设备，方法包括：模拟待检测联邦学习系统的联邦模型训练过程；在联邦模型训练过程中，随机选取联邦模型的训练节点进行模拟攻击；对受到模拟攻击之前的联邦模型和受到模拟攻击之后的联邦模型分别进行仿真，并将仿真结果进行对比生成对比结果；根据对比结果判断待检测联邦学习系统的安全性能。本申请中在待检测联邦学习系统进行模型训练的过程中随机选取联邦模型的训练节点进行模拟攻击来评测待检测联邦学习系统的安全性能，可以提前了解待检测联邦学习系统到对于重放攻击的防御程度，从而及时做出改进和完善。

技术领域

本申请涉及联邦学习系统安全检测技术领域，尤其涉及一种基于联邦学习的系统安全漏洞检测方法及设备。

背景技术

大数据时代，数据的重要性愈发凸显，更多的数据往往意味着更好，更强的模型，也就能发挥更多的作用，产生更高的经济效益。然而在生产实践中常常会遇到数据孤岛问题。联邦学习的提出解决了数据孤岛问题，联邦学习不需要将所有的数据都集中到一个中心节点来训练机器学习模型，而是让每一个拥有数据的节点用本地的数据来训练一个本地模型，各节点在每一轮的迭代中共享本地的模型参数，由中心节点来聚合所有的模型参数，得到一个当前的全局模型，最终模型收敛，中心节点就得到了一个最终的全局模型。联邦学习既能帮助多个参与方搭建共享的高性能模型，又符合用户隐私和数据保密性的要求。随着联邦学习的发展，联邦学习模型也面临着诸多安全风险，由于联邦学习的分布式结构以及节点与中心节点间的通信行为，传统的网络攻击方法例如重放攻击可能成为新的模型投毒方式，现有技术中，联邦学习中在面对重放攻击时的抵御手段较少，导致基于联邦学习的系统容易受到重放攻击的入侵。

发明内容

为至少在一定程度上克服相关技术中联邦学习的系统容易受到重放攻击的入侵的问题，本申请提供一种基于联邦学习的系统安全漏洞检测方法及设备。

本申请的方案如下：

根据本申请实施例的第一方面，提供一种基于联邦学习的系统安全漏洞检测方法，包括：

模拟待检测联邦学习系统的联邦模型训练过程；

在所述联邦模型训练过程中，随机选取联邦模型的训练节点进行模拟攻击；

对受到所述模拟攻击之前的联邦模型和受到所述模拟攻击之后的联邦模型分别进行仿真，并将仿真结果进行对比生成对比结果；

根据所述对比结果判断所述待检测联邦学习系统的安全性能。

优选的，在本申请一种可实现的方式中，所述随机选取联邦模型的训练节点进行模拟攻击，包括：

基于预先训练的重放攻击模型向联邦模型的练节点进行模拟攻击。

优选的，在本申请一种可实现的方式中，所述重放攻击模型用于阻止所述联邦模型收敛，或者使所述联邦模型收敛在坏的局部最小值。

优选的，在本申请一种可实现的方式中，所述重放攻击模型通过控制至少一个所述联邦模型的训练节点阻止所述联邦模型收敛，或者使所述联邦模型收敛在坏的局部最小值。

优选的，在本申请一种可实现的方式中，还包括：统计被攻击训练节点的个数占全部训练节点个数的比例和各被攻击训练节点的被攻击次数作为所述联邦模型的被攻击强度。

优选的，在本申请一种可实现的方式中，根据所述对比结果判断所述待检测联邦学习系统的安全性能，包括：

根据所述联邦模型的被攻击强度和所述对比结果判断所述待检测联邦学习系统的安全性能。

优选的，在本申请一种可实现的方式中，所述随机选取联邦模型的训练节点进行模拟攻击，包括：

随机选取联邦模型的训练节点进行控制；