[发明专利]非法图像鉴别方法、装置、内容安全防火墙及存储介质

说明书

本发明实施例提出一种非法图像鉴别方法、装置、内容安全防火墙及计算机可读存储介质。其中非法图像鉴别方法包括：对非法图像样本进行图像处理，生成对应的对抗样本；使用非法图像样本和对应的对抗样本，训练条件生成对抗网络；利用训练好的条件生成对抗网络，将第一图像还原成第二图像，第一图像是经过图像处理后待鉴别的图像，第二图像是由第一图像还原得到的没有经过图像处理的图像；将第二图像传递给非法图像鉴别服务，以便非法图像鉴别服务识别第二图像是否是非法图像。本发明实施例仅需生成少量的对抗样本即可训练条件生成对抗网络，抵御针对非法图像鉴别服务的黑盒攻击，且不必重新训练原有的非法图像鉴别服务模型。

技术领域

本发明涉及信息技术领域，尤其涉及一种非法图像鉴别方法、装置、内容安全防火墙及计算机可读存储介质。

背景技术

目前大量的互联网应用允许用户上传头像、照片等图像信息。国家对图像的内容具有严格的规定，禁止上传、分享非法图像，例如禁止上传、分享黄色图像，即淫秽色情图像。主流的AI(Artificial Intelligence，人工智能)公司、云服务厂商以及业务安全厂商都提供了API(Application Programming Interface，应用程序编程接口)服务，用于检测上传的图像是否非法图像。例如，用于检测上传的图像是否淫秽色情图像的非法图像鉴别服务简称为鉴黄服务。通常非法图像鉴别服务都是基于深度学习模型。部分黑色产业使用对抗样本(Adversarial examples)技术，通过FGSM(Fast Gradient Sign Method，快速梯度符号)算法、C/W(Carlini&Wagner)方法、JSMA(Jacobian Saliency Map Approach，雅可比特性映射方法)等对抗样本算法，在非法图像上叠加一定的扰动，生成对抗样本，然后绕过了非法图像鉴别服务。

如前述，在黑色产业获取到非法图像鉴别服务的深度学习模型时，可以进行白盒攻击，生成对抗样本，绕过非法图像鉴别服务。在黑色产业没有获取到非法图像鉴别服务的深度学习模型时，通常通过噪音、仿射变化、滤波模糊化、亮度变化和单色化等方式进行黑盒攻击，尝试绕过非法图像鉴别服务的检测，对内容安全造成威胁。针对这种情况，目前的非法图像鉴别服务需要针对现有的黄色图像样本，通过噪音、仿射变化、滤波模糊化、亮度变化和单色化等方式进行处理，生成大量的对抗样本，然后再重新训练原有的非法图像鉴别服务。生成大量的对抗样本以及重新训练非法图像鉴别服务的过程都比较繁琐，导致图像鉴别的效率较低。

发明内容

本发明实施例提供一种非法图像鉴别方法、装置、内容安全防火墙及计算机可读存储介质，以解决现有技术中的一个或多个技术问题。

第一方面，本发明实施例提供了一种非法图像鉴别方法，包括：

对非法图像样本进行图像处理，生成对应的对抗样本；

使用所述非法图像样本和所述对应的对抗样本，训练条件生成对抗网络；

利用训练好的所述条件生成对抗网络，将第一图像还原成第二图像，所述第一图像是经过所述图像处理后待鉴别的图像，所述第二图像是由所述第一图像还原得到的没有经过所述图像处理的图像；

将所述第二图像传递给非法图像鉴别服务，以便所述非法图像鉴别服务识别所述第二图像是否是非法图像。

在一种实施方式中，对非法图像样本进行图像处理，生成对应的对抗样本，包括：

通过噪音、仿射变换、滤波模糊化、亮度变化和单色化中的至少一种方式对非法图像样本进行图像处理。

在一种实施方式中，对非法图像样本进行图像处理，生成对应的对抗样本，包括：

利用开源计算机视觉库和/或图像处理软件对非法图像样本进行图像处理。