[发明专利]一种识别对抗性图像的方法及终端

权利要求书

1.一种识别对抗性图像的方法，其特征在于，包括：

将待检测的目标图像输入预设的图像分类模型进行处理，得到所述目标图像的目标特征信息以及所述目标图像对应的目标分类结果；其中，所述图像分类模型是通过使用机器学习算法对样本图像训练集进行训练得到，在训练过程中，所述图像分类模型的输入为所述样本图像训练集的图像信息，所述图像分类模型的输出为所述图像样本对应的分类结果；所述样本图像训练集包含的样本图像符合预设的训练要求；

将所述目标图像、所述目标特征信息以及所述目标分类结果导入预设的KNN分类器，基于所述样本图像训练集对所述目标图像、所述目标特征信息以及所述目标分类结果，确定所述目标分类结果的置信度分数；

当所述置信度分数小于或等于预设的置信度分数阈值时，判定所述目标图像为对抗性图像。

2.根据权利要求1所述的方法，其特征在于，所述将所述目标图像、所述目标特征信息以及所述目标分类结果导入预设的KNN分类器，基于所述样本图像训练集对所述目标图像、所述目标特征信息以及所述目标分类结果，确定所述目标分类结果的置信度分数，包括：

将所述目标图像、所述目标特征信息以及所述目标分类结果导入预设的KNN分类器，计算所述样本图像训练集中每个样本图像与所述目标图像之间的距离值；

基于所述距离值确定所述目标图像的至少两个最邻近图像；

基于每个所述最邻近图像的分类标签以及所述目标图像的目标分类结果，确定所述目标分类结果的置信度分数。

3.根据权利要求2所述的方法，其特征在于，所述基于每个所述最邻近图像的分类标签以及所述目标图像的目标分类结果，确定所述目标分类结果的置信度分数，包括：

基于每个所述最邻近图像的分类标签以及所述目标图像的目标分类结果，采用预设的公式计算所述目标分类结果的置信度分数；所述预设的公式为：

s(q,c)为置信度分数；c为所述目标分类结果，q为所述最邻近图像，c_i为所述样本图像训练集中第i个样本图像的分类标签，i的取值为1到k，k为正整数；w_i为所述最邻近图像对应的置信度权重；1{c_i＝c}为基于所述最邻近图像的分类标签与所述目标分类结果确定的值，当所述最邻近图像的分类标签与所述目标分类结果一致时，则1{c_i＝c}取值为1；当所述最邻近图像的分类标签与所述目标分类结果不一致时，则1{c_i＝c}取值为0。

4.根据权利要求3所述的方法，其特征在于，所述基于所述最邻近图像的分类标签以及所述目标图像的目标分类结果，采用预设的公式计算所述目标分类结果的置信度分数之前，还包括：

确定每个所述最邻近图像对应的置信度权重。

5.根据权利要求4所述的方法，其特征在于，所述确定每个所述最邻近图像对应的置信度权重，包括：

基于所述距离值的排序确定每个所述最邻近图像对应的置信度权重。

6.根据权利要求4所述的方法，其特征在于，所述确定每个所述最邻近图像对应的置信度权重，包括：

基于计算每个所述最邻近图像对应的置信度权重；其中，d(q,x_i)²为所述最邻近图像与所述目标图像之间的距离值的平方。

7.根据权利要求1至6任一项所述的方法，其特征在于，还包括：

当所述置信度分数大于所述预设的置信度分数阈值时，判定所述目标图像为非对抗性图像。