[发明专利]投毒数据识别方法、装置、系统及计算机可读存储介质

权利要求书

1.一种投毒数据识别方法，其特征在于，包括：

获取参照干净数据集D_clean以及初始测试数据集D_target；

将所述初始测试数据集D_target中，原标注标签与数据内容不一致的数据记为标签修改的投毒数据，将所述标签修改的投毒数据从所述初始测试数据集D_target中剔除，得到标准测试数据集D′_target；

根据所述参照干净数据集D_clean，将所述标准测试数据集D′_target中，数据内容添加了扰动或后门触发器的数据标记为标签不变的投毒数据；

删除所述标准测试数据集D′_target中标签不变的投毒数据，得到纯净数据集。

2.根据权利要求1所述的投毒数据识别方法，其特征在于，所述将所述初始测试数据集D_target中，原标注标签与数据内容不一致的数据记为标签修改的投毒数据，包括：

获取干净模型M_c1ean；其中所述干净模型M_clean采用所述参照干净数据集D_c1ean进行模型训练得到；

将所述初始测试数据集D_target输入至所述干净模型M_clean中，得到每个数据的第一预测标签；

将所述第一预测标签与对应的原标注标签不一致的数据的集合记为疑似投毒数据集D_dirty；

识别出所述疑似投毒数据集D_dirty中，原标注标签与数据内容不一致的数据。

3.根据权利要求2所述的投毒数据识别方法，其特征在于，所述根据所述参照干净数据集D_clean，将所述标准测试数据集D′_target中，数据内容添加了扰动或后门触发器的数据标记为标签不变的投毒数据，包括：

将所述标准测试数据集D′_target均分为多个标准测试数据子集；

逐次分别将各标准测试数据子集作为目标标准测试数据子集D′_targeti，执行如下步骤：

获取除所述目标标准测试数据子集D′_targeti外的其它标准测试数据子集，将所述其它标准测试数据子集与所述参照干净数据集D_clean作为训练集进行模型训练，得到所述目标标准测试数据子集D′_targeti对应的疑似毒化模型M_dirtyi；

将所述目标标准测试数据子集D′_targeti输入至对应的疑似毒化模型M_dirtyi中，得到该目标标准测试数据子集D′_targeti中每个数据对应的第二预测标签；

将疑似投毒数据集D_dirty中，每个所述第二预测标签与对应的原标注标签一致的数据，确定为添加了扰动或后门触发器的数据。

4.根据权利要求1所述的投毒数据识别方法，其特征在于，所述获取参照干净数据集D_clean，包括：

获取初始干净数据集D′_clean；

将所述初始干净数据集D′_clean进行数据增强，得到所述参照干净数据集D_clean。