[发明专利]一种面向深度学习模型偏见中毒攻击的防御方法

说明书

本发明公开了一种面向深度学习模型偏见中毒攻击的防御方法，所述方法包括以下步骤：(1)获取原始样本数据集；(2)对原始样本数据集进行分块划分为子训练集，(3)使用基本分类器训练子训练集；(4)评估每个基本分类器的输入，并计算每个基本分类器分类正确的数量；(5)筛选出分类准确度最高的基本分类器，利用该分类器对深度学习模型再次进行训练，最终得到新训练的深度学习模型。上述方法通过使用散列函数对原始样本数据集中的数据个体样本进行映射，提升了深度学习模型防御偏见中毒攻击的能力。

技术领域

本发明属于深度学习领域，尤其涉及一种面向深度学习模型偏见中毒攻击的防御方法。

背景技术

深度学习模型从大量来源广泛的样本数据集中进行学习，进行内在规律的提取和数据特征的抽象，深度学习模型可以根据学习到的经验以自动化的方式帮助人类做出决策并解决诸多复杂的模式识别难题，因此深度学习技术被广泛应用于搜索引擎、图像识别、异常检测、自然语言处理、语音识别、推荐系统、医疗、信贷发放以及教育等领域，发挥了良好的预测以及决策效果并且取得了较大的社会反响和较好的经济效益。随着研究人员对深度学习研究的不断深入，使用深度学习模型进行决策的准确度也在持续提高，深度学习也在逐步拓宽其应用场景以及逐渐渗透到传统领域，使用深度技术进行决策以及获得决策建议对人类的日常生产生活产生了不可忽视影响。

虽然深度学习技术可以帮助人们得到更加准确更为详细的决策结果以及给出具有实用性的决策建议，但是最新的研究表明，由于深度学习模型做出决策高度依赖用于训练深度学习模型所使用的原始样本数据集，而原始样本数据集中包含的部分属性所关联的数据样本会在较大程度上影响深度学习模型的决策，这种属性也即敏感属性，比如性别等。如果用于训练深度学习模型所使用的样本数据集被篡改，导致深度模型遭遇中毒攻击，那么会造成深度学习模型中毒，进一步地，如果攻击者蓄意操纵攻击篡改的数据中包含敏感属性数据，那么会造成深度学习模型的偏见中毒。深度学习模型的中毒攻击会对社会生产、人们的正常生活造成诸多负面影响，并且随着深度学习应用范围的拓宽，深度学习模型逐步渗透到人们生产生活的方方面面，因此研究面向深度学习模型偏见中毒攻击的防御方法显得尤为重要。

公开号为CN112905997A的中国专利文献中公开了一种面向深度学习模型中毒攻击的检测方法、装置及系统，包括：(1)获取样本集和待检测模型；(2)预训练与待检测模型结构相同的良性模型；(3)对部分样本进行数据增广，组成新样本集；(4)将每一类新样本作为目标类，剩下的所有类新样本作为源类，对预训练后的良性模型进行目标类的多种中毒攻击，获得多种中毒模型和多种中毒样本；(5)获得中毒样本在所有非所出中毒模型下的检测结果，依据检测结果筛选并构建中毒模型池和中毒样本池；(6) 依据中毒样本在待检测深度学习模型的检测结果和中毒样本在非所出中毒模型下的检测结果来判断待检测深度学习模型是否中毒。来实现对面向深度学习模型中毒攻击的快速准确检测。但是该专利并未公开面向深度学习模型偏见中毒攻击的防御方法。

发明内容

本发明提供了一种面向深度学习模型偏见中毒攻击的防御方法，普适性好，保证了深度学习模型在决策时的客观性以及其决策的公平性，提升了深度学习模型防御偏见中毒攻击的能力。

具体采用的技术方案如下：

一种面向深度学习模型偏见中毒攻击的防御方法，所述方法包括以下步骤：

(1)获取原始数据集，并且标记原始数据集中的敏感属性标签和任务标签，构建原始样本数据集T；

(2)对原始样本数据集T进行分块划分，划分为k个子训练集 P_i(i∈1,2,3,…,k)，使用散列函数h使样本数据x被分配到子训练集P_i中；

(3)在子训练集P_i上，使用基本分类器对其进行训练；

(4)在深度学习模型训练的推理阶段，逐一评估每个基本分类器的输入，并计算每个基本分类器分类正确的数量；