[发明专利]一种基于脆弱水印的对抗样本防御方法

说明书

本发明公开了一种基于脆弱水印的对抗样本防御方法，步骤为：对于边缘智能设备接收到的图像，使用基于提升小波变幻和半色调技术的嵌入水印算法为图像嵌入脆弱水印；将嵌入水印图像通过信道传输到服务器；对于服务器的接收图像,使用检测水印算法进行检测，判断图像是否在传输过程中受到攻击算法攻击而变为对抗样本，若为对抗样本则被拒绝处理，反馈给边缘端设备进行重传，若为干净样本则被允许输入处理系统，进行后续处理。本发明基于脆弱水印的对抗样本防御方法，能够有效减少防御方法对于图像本身特征或对抗扰动的依赖，提高对抗样本检测成功率。

技术领域

本发明属于对抗样本防御领域，特别涉及一种基于脆弱水印的对抗样本防御方法。

背景技术

近年来，随着深度学习(Deep Learning)的快速发展，深度神经网络在众多领域都取得了突破性进展。新兴技术解决了传统机器学习和人工智能固有的问题，尤其是在计算机视觉领域的应用越来越广泛。然而在2013年Szegedy等人发表一篇文章中，首次提出了深度神经网络(Deep Neural Networks，简称DNN)易受对抗样本的攻击。对抗样本是通过故意对输入样本添加不可察觉的细微扰动而生成的，可以使得深度神经网络被欺骗，以较高的信任度输出任意攻击者想要的分类。对抗样本的特点是寻找尽量小的扰动，尽管这些扰动对于观察者来说是难以察觉或不可察觉的，但依然会影响到深度神经网络。对抗样本的存在也引发了学术界对深度学习的质疑和反思，给现有很多基于深度学习的系统带来了极大的安全性威胁。

深度学习的高速发展带来了庞大的计算需求，单机的算力越来越难以满足，自然而然就会想到分布式计算。云计算是分布式计算的一种，可以利用云计算把数据从网络边缘的位置移动到云中心来解决上述问题。但是云计算的解决方案也会有其不足和挑战，尤其随着万物互联时代的快速到来和无线网络的普及，网络边缘的设备数量和产生的数据都快速增长，而物联网产生数据的70％以上都将在网络边缘处理，在这种情形下，以云计算模型为核心的集中式处理模式将无法高效处理边缘设备产生的数据，面向边缘设备所产生海量数据计算的边缘计算模型应运而生。在边缘计算模型下，边缘设备能处理其产生的一部分临时数据，不需要将全部数据上传至云服务器端，仅传输有价值的数据即可，很大程度上减轻了网络带宽的压力，减少了对计算存储资源的需求。除此之外，在边缘设备上对数据进行处理，能大大减少系统时延，提高服务的响应时间。

随着边缘计算和深度学习的火热，边缘智能应运而生，边缘智能是将边缘计算与人工智能等应用相结合，将具有云计算的数据处理能力下沉到边缘节点，使运算处理在边缘节点进行。边缘智能在各个行业中都有潜在的应用市场，例如在无人驾驶领域中添加边缘智能，可以使得驾驶的实时性和安全性大大提高。进一步来说，边缘智能的行业应用市场主要包括工业物联网、智能安防、智能家居、智能车载、AR/VR等。这些边缘智能应用中包含了大量的深度神经网络模型，那么随之而来的就是对抗样本带来的系统安全性威胁。

发明内容

发明目的：为了克服现有技术中存在的问题，针对边缘智能环境下检测对抗样本，本发明提供一种基于脆弱水印的对抗样本防御方法，能够有效减少防御方法对于图像本身特征或对抗扰动的依赖，，并提高对抗样本的检测成功率。

技术方案：为实现上述目的，本发明提供一种基于脆弱水印的对抗样本防御方法，包括如下步骤：

(1)对于边缘智能设备接收到的图像，使用基于提升小波变幻和半色调技术的嵌入水印算法为图像嵌入脆弱水印；

(2)将嵌入水印图像通过信道传输到服务器；

(3)对服务器的接收图像，使用检测水印算法进行检测，判断图像是否在传输过程中受到攻击算法攻击而变为对抗样本，若为对抗样本则被拒绝处理，反馈给边缘端设备进行重传，若为干净样本则被允许输入处理系统，进行后续处理。

进一步的，所述步骤(1)中基于提升小波变幻和半色调技术的嵌入水印算法具体步骤如下：