[发明专利]一种深度学习对抗样本安全性评价方法

说明书

本发明公开了一种深度学习对抗样本安全性评价方法，包括以下步骤：S1.利用不同对抗样本生成策略生成不同的对抗样本集；S2.依次利用生成的各对抗样本集对待测深度学习模型进行攻击，分别计算攻击有效性评价指标；S3.为待测深度学习模型装备对抗样本防御方法，计算防御有效性评价指标，构建隶属度评价矩阵；S4.对隶属度评价矩阵中的元素进行标准化处理；S5.计算第j个防御有效性评价指标下第i个对抗样本集的贡献度；S6.计算第j个防御有效性评价指标的信息熵和测试结果一致性程度；S7.计算第j个防御有效性评价指标的权重：S8.计算对抗样本安全性综合评分。本发明能够对深处学习模型的对抗样本安全性进行全面客观的评价。

技术领域

本发明涉及深度学习技术领域，尤其涉及一种深度学习对抗样本安全性评价方法。

背景技术

近年来，随着深度学习技术的不断发展，深度学习已广泛应用于图像、文本、语音等多种数据形式的分析与处理。最新的研究结果表明，对抗样例能够比较容易地欺骗深度学习模型，使之输出错误的结果，攻击者可以通过产生人工难以分辨的对抗样例对深度学习模型进行攻击，使之不能正常工作，甚至产生攻击者想要的特定输出结果。因此，对抗样本脆弱性成为深度学习技术在安全关键领域应用的主要风险之一。

为研究对抗样本脆弱性的产生与作用机理，许多研究者相继提出了一系列利用对抗样本脆弱性对深度学习模型进行攻击的方法以及针对特定攻击的防御方法，但对于攻击与防御的效果缺乏统一、全面的评价标准，不利于在不同方法之间进行横向比较，难以得到全面客观的研究结论。

发明内容

为了解决上述问题，本发明提出一种深度学习对抗样本安全性评价方法，能够对深处学习模型的对抗样本安全性进行全面客观的评价，能够实现计算简单、层次逻辑清晰、权重指标合理、综合评价方式客观的深度学习对抗样本安全性评估，对深度学习模型对抗样本攻击与防御技术的发展具有指导作用。

本发明采用的技术方案如下：

一种深度学习对抗样本安全性评价方法，包括以下步骤：

S1.利用不同对抗样本生成策略生成不同的对抗样本集；

S2.依次利用生成的各对抗样本集对待测深度学习模型进行攻击，分别计算攻击有效性评价指标；

S3.为待测深度学习模型装备对抗样本防御方法，计算防御有效性评价指标，生成n个对抗样本集对应于m个防御有效性评价指标的数值构成隶属度评价矩阵R＝(r_ij)_n×m，其中r_ij为第i个对抗样本集对应的第j个防御有效性评价指标的数值；

S4.对隶属度评价矩阵R中的元素进行标准化处理，将矩阵中的每个元素除以其所在列的元素的最大值；

S5.计算第j个防御有效性评价指标下第i个对抗样本集的贡献度P_ij：

S6.计算第j个防御有效性评价指标的信息熵E_j：

并计算第j个防御有效性评价指标下各对抗样本集测试结果的一致性程度d_j＝1-E_j；

S7.计算第j个防御有效性评价指标的权重w_j：

S8.根据步骤S7中计算得到的防御有效性评价指标权重以及步骤S3中计算得到的防御有效性评价指标数值，计算装备了防御方法的待测深度学习模型对抗样本安全性综合评分。