[发明专利]自动驾驶多传感器融合感知模型的鲁棒性测试方法及系统

说明书

本发明公开了自动驾驶多传感器融合感知模型的鲁棒性测试方法及系统，所述方法包括：利用预处理后的多个车载传感器的数据，训练得到多传感器融合感知模型；从多个车载传感器中选取一个待攻击传感器；在选择的待攻击传感器采集的数据上生成添加对抗扰动噪声的掩码，由此生成欺诈数据；将欺诈数据与其他传感器正常采集到的数据输入训练好的多传感器融合感知模型，计算欺诈数据生成的损失函数，并进行反向传播；结合损失函数梯度对欺诈数据进行迭代更新，得到最终的欺诈数据；将最终的欺诈数据与其他传感器正常采集到的数据输入到多传感器融合感知模型中，得到多传感器融合感知模型的输出精度，根据输出精度获取多传感器融合感知模型的鲁棒性测试结果。

技术领域

本发明涉及智能驾驶技术领域，具体涉及自动驾驶多传感器融合感知模型的鲁棒性测试方法及系统。

背景技术

近些年来，多传感器融合感知技术在自动驾驶领域被广泛应用，不同传感器和不同模态的数据被应用于图像语义分割、目标识别、目标跟踪等自动驾驶场景任务，取得了很好的效果。然而，深度网络模型的作用原理、可解释性研究并不明朗，可能存在奇异或人为恶意制造的场景和数据使得模型受到干扰和欺诈，严重威胁自动驾驶的安全。为此有必要利用对抗机器学习技术，对针对多传感器融合模型的欺诈和防御相关的技术进行研究，以提高多传感器融合模型的鲁棒性。

对抗机器学习是近几年深度学习中出现的新方向。对抗机器学习的研究内容是：通过向原始输入数据中加入精心设计的、人类不易察觉的噪声，使测试模型输出错误结果，加入对抗噪声的数据被称为“对抗样本”，也可以被称为“欺诈数据”。与传统的高斯噪声、椒盐噪声等噪声不同，对抗噪声能够较大程度地干扰深度网络模型做出正确预测。对抗样本的存在给现有的应用深度网络模型的系统带来了极大的安全隐患，尤其是像自动驾驶这类对安全性、可靠性要求较高的应用场景。为了提升模型的鲁棒性，最常用的方法是使用多种不同传感器数据作为输入，通过融合感知模型输出最终结果。

现有的对抗攻击方法主要是针对单传感器模型，处理数据的类型单一，处理流程也较为简单，很容易攻击成功。然而，这类攻击方法并不能有效地攻击多传感器模型，主要原因是：1)多传感器模型采用多种不同的数据类型作为输入，不同的数据对于输出结果能够产生互补效果；2)同时攻击多个传感器的实现代价太大，且并不能保证物理世界中对抗扰动的可实现性。

发明内容

本发明的目的在于克服上述技术缺陷，提出了一种自动驾驶多传感器融合感知模型的鲁棒性测试方法，可以应用于测试和提升多传感器融合感知模型的鲁棒性。

为实现上述目的，本发明提出了一种自动驾驶多传感器融合感知模型的鲁棒性测试方法，所述方法包括：

同时采集多个车载传感器的数据，并进性相应的预处理；

利用预处理后的多个车载传感器的数据，训练得到多传感器融合感知模型；

从多个车载传感器中选取一个待攻击传感器；在选择的待攻击传感器采集的数据上生成添加对抗扰动噪声的掩码，由此生成欺诈数据；

将欺诈数据与其他传感器正常采集到的数据输入训练好的多传感器融合感知模型，计算欺诈数据生成的损失函数，并进行反向传播；结合损失函数梯度对欺诈数据进行迭代更新，得到最终的欺诈数据；

将最终的欺诈数据与其他传感器正常采集到的数据输入到多传感器融合感知模型中，得到多传感器融合感知模型的输出精度，

根据输出精度获取多传感器融合感知模型的鲁棒性测试结果。

进一步的，所述从多个车载传感器中选取一个待攻击传感器，具体为：根据显著性分析结果选取对结果影响最大的传感器作为待攻击传感器。

进一步的，所述将欺诈数据与其他传感器正常采集到的数据输入训练好的多传感器融合感知模型，计算欺诈数据生成的损失函数，并进行反向传播；结合损失函数梯度对欺诈数据进行迭代更新，得到最终的欺诈数据；具体包括：