[发明专利]用于识别神经网络的输入数据中的对抗性干扰的方法

说明书

本发明涉及一种用于识别神经网络的输入数据中的对抗性干扰的方法，其中在训练阶段期间对条件生成式对抗网络进行训练或已进行了训练，其中在此情况下鉴于生成基于神经网络的输入数据来条件化的对抗性干扰方面来训练或者已训练了条件生成式对抗网络的生成器网络，并且其中至少鉴于识别由生成器网络生成的输入数据中的对抗性干扰方面来训练或已训练了条件生成式对抗网络的鉴别器网络，并且其中在应用阶段期间将经训练的鉴别器网络使用用于识别神经网络的输入数据中的对抗性干扰并提供识别结果。此外，本发明还涉及后端服务器、探测设备和系统。

技术领域

本发明涉及一种用于识别神经网络的输入数据中的对抗性干扰的方法。此外，本发明还涉及后端服务器、探测设备、系统和运输工具。

背景技术

例如基于神经网络的机器学习具有针对在现代驾驶员辅助系统和自动化行驶的机动车辆中的应用的巨大潜力。基于深度神经网络的功能在此处理传感器数据（例如来自照相机、雷达传感器或激光雷达传感器的传感器数据），以便从中推导出相关信息。这些信息例如包括在所述机动车辆的环境中的对象的类型和位置、所述对象的行为或车行道几何形状或车行道拓扑。

在这些神经网络中，已证明特别是卷积网络（英语：Convolutional NeuralNetworks（卷积神经网络），CNN）特别适合于应用在图像处理中。卷积网络以不受监视的形式逐级地从输入数据（例如图像数据）中提取各种高质量特征。在此，所述卷积网络在训练阶段期间基于过滤器通道独立开发特征图，所述过滤器通道本地处理所述输入数据以由此推导出本地属性。然后，这些特征图将由其他过滤器通道重新进行处理，所述其他过滤器通道从中推导出更高质量的特征图。基于以这种方式由所述输入数据所压缩的信息，所述深度神经网络最终推导出其决策并提供该决策作为输出数据。

尽管卷积网络在功能准确性方面优于传统方案，但这些卷积网络也有缺点。因此，例如基于所述传感器数据/输入数据中的对抗性干扰的攻击可能导致：尽管所检测的传感器数据中的内容并未在语义上被更改，还是进行错误分类或错误的语义分割。

由I. Goodfellow等人的“Generative Adversarial Nets”, Advances inNeural Information Processing Systems 27 (NIPS 2014), 2672-2680页, CurranAssociates Inc., 2014已知Generative Adversarial Networks（生成式对抗网络）。由M.Mirza和S. Osindero的“Conditional Generative Adversarial Nets”（arXiv：1411.1784v1[cs.LG]，2014年11月6日）已知Conditional Generative AdversarialNetworks（条件生成式对抗网络）。

发明内容

本发明基于以下任务：创建一种用于识别特别是深度的神经网络的输入数据中的对抗性干扰的方法。此外，本发明还基于以下任务：创建一种用于执行该方法的所属的设备。

根据本发明，该任务是通过具有专利权利要求1的特征的方法、具有专利权利要求10的特征的方法、具有专利权利要求11的特征的后端服务器、具有专利权利要求12的特征的探测设备以及具有专利权利要求13的特征的系统来解决的。本发明的有利构型由从属权利要求得出。

特别地，提供了一种用于识别神经网络的输入数据中的对抗性干扰的方法，其中在训练阶段期间对条件生成式对抗网络进行训练或已进行了训练，其中在此情况下鉴于生成基于神经网络的输入数据来条件化（konditionieren）的对抗性干扰方面来训练或者已训练了条件生成式对抗网络的生成器网络，并且其中至少鉴于识别由生成器网络生成的输入数据中的对抗性干扰方面来训练或者已训练了条件生成式对抗网络的鉴别器网络，并且其中在应用阶段期间将经训练的鉴别器网络使用用于识别神经网络的输入数据中的对抗性干扰并提供识别结果。