[发明专利]模型的后门检测方法、装置、介质和计算设备

权利要求书

1.一种模型的后门检测方法，包括：

提供检测样本集，所述检测样本集包括多个检测样本；

基于所述检测样本集中的检测样本、待检测模型以求解使得检测样本集中的每一检测样本与随机采样的触发器图案结合后，作为所述待检测模型的输入能够使得所述待检测模型输出特定结果时，检测样本上最小的触发器面积为目标进行优化计算，得到所述待检测模型各个输出类别的触发器；

对比全部输出类别的触发器，以判断所述待检测模型是否存在后门。

2.如权利要求1所述的模型的后门检测方法，其中，所述提供检测样本集包括：针对待检测模型的每一输出类别，随机采样多个具有目标类别的样本。

3.如权利要求1所述的模型的后门检测方法，其中，所述提供检测样本集包括：

针对待检测模型的每一输出类别，随机生成多个样本；

针对每一个样本生成对应目标类别的欺骗性样本。

4.如权利要求3所述的模型的后门检测方法，其中，从预设的均匀分布中采样生成多个样本。

5.一种模型的后门检测装置，其特征在于，包括：

提供模块，被配置为提供检测样本集，所述检测样本集包括多个检测样本；

获取模块，被配置为基于所述检测样本集中的检测样本、待检测模型以求解使得检测样本集中的每一个检测样本与随机采样的触发器图案结合后，作为所述待检测模型的输入能够使所述待检测模型输出特定结果时，检测样本上最小的触发器面积为目标进行优化计算，得到所述待检测模型各个输出类别的触发器；

判断模块，被配置为对比全部输出类别的触发器，以判断所述待检测模型是否存在后门。

6.如权利要求5所述的模型的后门检测装置，其中，所述提供模块包括：

第一样本生成单元，被配置为针对待检测模型的每一输出类别，随机采样多个具有目标类别的样本。

7.如权利要求5所述的模型的后门检测装置，其中，所述提供模块包括：

第二样本生成单元，被配置为针对待检测模型的每一输出类别，随机生成多个样本；

样本处理单元，被配置为针对每一个样本生成对应目标类别的欺骗性样本。

8.如权利要求7所述的模型的后门检测装置，其中，所述第二样本生成单元还被配置为从预设的均匀分布中采样生成多个样本。

9.一种介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1-4中任一项所述的方法。

10.一种计算设备，其特征在于，所述计算设备包括处理器，所述处理器用于执行存储器中存储的计算机程序时实现如权利要求1-4中任一项所述的方法。