[发明专利]一种面向深度学习模型偏见中毒攻击的防御方法

权利要求书

1.一种面向深度学习模型偏见中毒攻击的防御方法，其特征在于，所述方法包括以下步骤：

(1)获取原始数据集，并且标记原始数据集中的敏感属性标签和任务标签，构建原始样本数据集T；

(2)对原始样本数据集T进行分块划分，划分为k个子训练集P_i(i∈1,2,3,…,k)，使用散列函数h使样本数据x被分配到子训练集P_i中；

(3)在子训练集P_i上，使用基本分类器对其进行训练；

(4)在深度学习模型训练的推理阶段，逐一评估每个基本分类器的输入，并计算每个基本分类器分类正确的数量；

(5)依据步骤(4)筛选出分类准确度最高的基本分类器，利用该分类器对深度学习模型再次进行训练，最终得到新训练的深度学习模型。

2.根据权利要求1所述的面向深度学习模型偏见中毒攻击的防御方法，其特征在于，步骤(2)中，所述的分配方法为：P_i:＝{x∈T∣h(x)≡i(modk)}。

3.根据权利要求1所述的面向深度学习模型偏见中毒攻击的防御方法，其特征在于，所述的每个子训练集P_i中包含的样本个体数量相等。

4.根据权利要求1所述的面向深度学习模型偏见中毒攻击的防御方法，其特征在于，步骤(3)中，所述的训练方式为：在每个子训练集上均使用基本分类器进行独立训练，所述的基本分类器只能访问自己所在子训练集的数据的类标。

5.根据权利要求1所述的面向深度学习模型偏见中毒攻击的防御方法，其特征在于，步骤(5)中，筛选方法为：定义新的分类器g(T，x),该分类器用于统计每个基本分类器分类正确的数量n_c(x)，g(T,x):＝argmaxn_c(x)。