[发明专利]一种用于测试人工智能模型鲁棒性的方法和系统

权利要求书

1.一种用于测试人工智能模型鲁棒性的方法，其特征在于，包括以下步骤：

(1)获取随机生成的输入数据，其大小为1*100维；

(2)将步骤(1)获取的输入数据输入上卷积网络模型中，以得到中间特征；

(3)将步骤(2)得到的中间特征输入N路子网络中，以得到N个输出结果；其中N的取值范围是100到1000；

(4)基于步骤(3)得到的N个输出结果，并使用白盒攻击算法攻击训练好的替代模型，以生成多个对抗样本；

(5)使用步骤(4)得到的多个对抗样本对待测试人工智能模型进行鲁棒性测试，以得到最终的测试结果。

2.根据权利要求1所述的用于测试人工智能模型鲁棒性的方法，其特征在于，步骤(2)中的上卷积网络模型结构如下：

第一层是上卷积模块层，由上采样层、卷积层、激活函数按顺序前后串联形成。其中，上采样步长为1，输出大小1*10*10，卷积核尺寸为1*1，卷积步长为3，激活函数采用ReLU，输出大小为4*4*1024；

第二层是上卷积模块层，由上采样层、卷积层、激活函数按顺序前后串联形成。其中，上采样步长为6，输出大小24*24*1024，卷积核大小为3*3，步长为6，激活函数采用ReLU，输出大小为8*8*512；

第三层是上卷积模块层，由上采样层、卷积层、激活函数按顺序前后串联形成。其中，上采样步长为6，输出大小48*48*512，卷积核大小为3*3，步长为3，激活函数采用ReLU，输出大小为16*16*256；

第四层是上卷积模块层，由上采样层、卷积层、激活函数按顺序前后串联形成。其中，上采样步长为6，输出大小96*96*256，卷积核大小为3*3，步长为3，激活函数采用ReLU，输出大小为32*32*128；

第五层是上卷积模块层，由上采样层、卷积层、激活函数按顺序前后串联形成。其中，上采样步长为4，输出大小128*128*128，卷积核大小为2*2，步长为2，激活函数采用ReLU，输出大小为64*64*64；

第六层是上卷积模块层，由上采样层、卷积层、激活函数按顺序前后串联形成。其中，上采样步长为4，输出大小256*256*64，卷积核大小为1*1，步长为1，激活函数采用ReLU，输出大小为256*256*3。

3.根据权利要求1所述的用于测试人工智能模型鲁棒性的方法，其特征在于，步骤(3)中的所有N路子网络具有完全相同的结构，每个子网络都包括三层，其中：

第一层是卷积模块层，其是由卷积层、池化层、正则化操作以及激活函数组成，且每个输入标签大小为1*256*256，将上卷积网络模型的第六层输出特征图和输入标签按照通道方向连接起来，即连接后特征图大小为4*256*256，其中，卷积核大小为2*2，步长为2，输出大小为128*128*96，激活函数采用ReLU。

第二层是卷积模块层，其是由卷积层、池化层、正则化操作以及激活函数按顺序前后串联形成。其中，卷积核大小为2*2，步长为2，输出大小为64*64*256，激活函数采用ReLU。

第三层是卷积模块层，其是由卷积层、池化层、卷积层按顺序前后串联形成，如图7所示。其中，第一个卷积核大小为2*2，步长为2，输出大小为32*32*512，激活函数采用ReLU。池化层核大小为3*3，步长为1，输出为32*32*512。最后一个卷积核大小为1*1，步长为1，最终输出是32*32*3。

4.根据权利要求1所述的用于测试人工智能模型鲁棒性的方法，其特征在于，白盒攻击算法可以是快速梯度下降法、基本迭代法、投影梯度下降法、或者CW法。