[发明专利]模型评估方法、装置、计算机设备和存储介质

说明书

本申请涉及一种模型评估方法、装置、计算机设备和存储介质，涉及机器学习技术领域、人工智能技术领域。方法包括：获取第一样本数据；根据动量迭代梯度算法对第一样本数据进行处理，得到原始对抗样本；基于预设迭代策略以及物理变换，对原始对抗样本进行迭代处理，得到满足迭代条件的目标对抗样本，并将目标对抗样本对应的第一对抗扰动确定为目标通用扰动；基于目标通用扰动以及第二样本数据生成第二对抗样本，并根据第二对抗样本对待测模型进行稳定性评估。采用本方法能够提高原始对抗样本的迁移性，提高了目标通用扰动的鲁棒性，进而提高模型评估的准确率。

技术领域

本申请涉及机器学习、人工智能技术领域，特别是涉及一种模型评估方法、装置、计算机设备和存储介质。

背景技术

随着深度学习技术的发展，在深度学习的安全问题越来越受到研究人员的关注。其中，对抗样本技术在深度学习中，通过模拟样本数据来欺骗深度学习模型，因此，对抗样本技术可以应用于模型的稳定性评估。

传统技术中，基于足量的样本数据以及通用对抗扰动生成方法，生成通用对抗扰动，然后，基于该通用对抗扰动，得到对抗扰动样本，进而，根据对抗扰动样本进行模型的稳定性评估。

然而，实际模型稳定性评估时，获取到的样本数据往往都是有限的，因此，在有限的样本数据下，生成的通用对抗扰动缺乏鲁棒性，模型稳定性评估准确率较低。

发明内容

基于此，有必要针对上述技术问题，提供一种模型评估方法、装置、计算机设备和计算机可读存储介质。

第一方面，本申请提供了一种模型评估方法。所述方法包括：

获取第一样本数据；

根据动量迭代梯度算法对所述第一样本数据进行处理，得到原始对抗样本；

基于预设迭代策略以及物理变换，对所述原始对抗样本进行迭代处理，得到满足迭代条件的目标对抗样本，并将所述目标对抗样本对应的第一对抗扰动确定为目标通用扰动；

基于所述目标通用扰动以及第二样本数据生成第二对抗样本，并根据所述第二对抗样本对待测模型进行稳定性评估。

在其中一个实施例中，所述根据动量迭代梯度算法对所述第一样本数据进行处理，得到原始对抗样本，所述方法包括：

根据当前动量以及交叉熵损失，确定第一梯度，并根据所述第一样本数据以及所述第一梯度，确定第一动量迭代数据；

基于所述第一样本数据与所述第一动量迭代数据的输出差异，确定特征空间损失；

根据所述特征空间损失，确定第二梯度，并根据所述第一动量迭代数据以及所述第二梯度，确定第二动量迭代数据；

将所述第二动量迭代数据作为新的所述第一动量迭代数据，执行所述基于所述第一样本数据与所述第一动量迭代数据的输出差异，确定特征空间损失的步骤，直至达到预设迭代次数阈值的情况下，得到所述原始对抗样本。

在其中一个实施例中，所述基于预设迭代策略以及物理变换，对所述原始对抗样本进行迭代处理，得到满足迭代条件的目标对抗样本，并将所述目标对抗样本对应的第一对抗扰动确定为目标通用扰动，包括：

将第一对抗扰动添加至所述原始对抗样本中，得到第一对抗样本；

在不满足预设输出条件的情况下，更新所述第一对抗扰动；

基于更新后的第一对抗扰动以及物理变换，对所述第一对抗样本进行处理，得到第三对抗样本；

将所述第三对抗样本作为新的第一对抗样本，执行所述在不满足预设输出条件的情况下，更新所述第一对抗扰动的步骤，直至满足所述预设输出条件，将当前的第一对抗样本作为目标对抗样本，并确定当前的第一对抗扰动为目标通用扰动。