[发明专利]一种联邦学习模型投毒防御方法、终端及存储介质

说明书

本发明公开了一种联邦学习模型投毒防御方法、终端及存储介质，方法包括：根据各局部模型增量的范数及对应的数据集选择匹配的裁剪阈值，并根据选择的裁剪阈值对对应的局部模型增量进行自适应裁剪；根据裁剪后的局部模型增量确定当前全局模型增量的符号特征，并根据确定的当前全局模型增量的符号特征计算裁剪后的局部模型对应的选择系数；根据计算的选择系数将各裁剪后的局部模型进行选择性聚合，得到全局模型；本发明可以有效地防御标签翻转缩放攻击、符号翻转攻击、最小化最大距离攻击等模型投毒攻击手段，能够帮助中心服务器在不收集客户端原始数据、不加剧客户端本地计算量的情况下完成对本地模型的聚合，增强联邦学习框架的可靠性和鲁棒性。

技术领域

本发明涉及人工智能技术领域，尤其涉及的是一种联邦学习模型投毒防御方法、终端及存储介质。

背景技术

人工智能技术无疑拥有巨大的潜力和价值，有望给各行各业、甚至人类社会的发展带来巨大变革。但是目前各个企业或机构提供的服务和数据大多是相互独立的，每个企业或机构所拥有的数据量级可能并不足以训练出一个实用的人工智能模型。有效的数据往往以“数据孤岛”的形式分散在各个企业或机构之间，数据之间难以互通，价值难以进一步挖掘。与此同时，社会各界对数据隐私和安全的担忧为数据的充分利用带来了更大挑战。

联邦学习为此提供了一种可行的解决方案，它的架构通常由一个中心服务器和若干个客户端组成，每个客户端对本地数据具有绝对自治权，中心服务器无权访问或调度这些数据。当客户端们共同训练一个全局模型时，这些客户端只会与服务器进行参数交互。然而，由于传统联邦学习框架的特殊性和复杂性，恶意攻击者可以通过模型投毒攻击使得模型训练走向错误方向。特别地，在联邦学习的默认架构下，中心服务器对客户端难以检测和监管。这些特性赋予了攻击者更强大的能力，恶意攻击者的存在更加难以被察觉，模型投毒攻击更容易达成。

联邦学习作为一种隐私计算框架，有望成为下一代人工智能协作网络架构的基础。在实际应用中，联邦学习框架自身的安全性也尤为重要。然而，目前针对模型投毒攻击的防御方法都面向传统的集中式机器学习或者分布式学习而提出，在联邦学习的环境下会出现无法适用、效果有限等问题。例如，在分布式学习的框架中可以设计一些检测和过滤恶意模型的机制，从而抵御潜在的攻击者。但是联邦学习环境下的数据通常是非独立同分布的，容易让这些机制出现误判或漏判的情况。近年来，最常见的方法是设计拜占庭鲁棒聚合器，根据收集到的所有本地模型估计一个具有拜占庭弹性的全局模型。但分布式学习中客户端上传的是梯度，而联邦学习中客户端上传的是模型，这给予了恶意模型相对更大的隐藏空间。

因此，现有技术还有待改进。

发明内容

本发明要解决的技术问题在于，针对现有技术缺陷，本发明提供一种联邦学习模型投毒防御方法、终端及存储介质，以解决传统的防御方法难以对恶意模型进行检测的技术问题。

本发明解决技术问题所采用的技术方案如下：

第一方面，本发明提供一种联邦学习模型投毒防御方法，包括：

根据各局部模型增量的范数及对应的数据集选择匹配的裁剪阈值，并根据选择的裁剪阈值对对应的局部模型增量进行自适应裁剪；

根据裁剪后的局部模型增量确定当前全局模型增量的符号特征，并根据确定的当前全局模型增量的符号特征计算裁剪后的局部模型对应的选择系数；

根据计算的选择系数将各裁剪后的局部模型进行选择性聚合，得到全局模型。

在一种实现方式中，所述根据各局部模型增量的范数及对应的数据集选择匹配的裁剪阈值，并根据选择的裁剪阈值对对应的局部模型增量进行自适应裁剪，包括：

根据训练后的各局部模型及对应的数据集，获取各局部模型的训练模型增量；

根据获取的训练模型增量自适应生成裁剪阈值，并根据所述裁剪阈值对对应的局部模型增量进行自适应裁剪。