[发明专利]用于确定探测到的对象的信任值的方法

说明书

说明一种用于确定借助经训练的神经元网络在输入图像中探测到的一个类别的对象的信任值的方法，该方法具有以下步骤：借助神经元网络的一个层的多个输出图像为探测到的对象的类别创建激活签名(S1)，其中，将输入图像提供给神经元网络的输入端；将激活签名缩放(S2)到输入图像的大小；将缩放后的激活签名的对象部分与神经元网络的训练数据组的相同类别的所有对象的激活签名分布进行比较(S3)，以确定信任值。本发明还涉及一种用于确定在训练数据组的多个输入图像中所探测到的对象的类别的激活签名分布的方法以及一种相应的设备、计算机程序和计算机可读的存储介质。

技术领域

本发明涉及一种用于确定输入图像中的借助神经元网络探测到的一个类别的对象的信任值的方法。

背景技术

为了控制至少部分自动化的系统，例如以自行驶的车辆或机器人作为移动平台的例子，深度学习方法被测试并进一步开发。这种至少部分自动化的系统的基本组成部分是其感知其周围环境的复杂情况的能力。这种至少部分自动化的系统的安全且有效运行的前提是对周围环境的解释和对该周围环境的状态的评估，例如用于诸如轨迹规划和轨迹控制的决策过程，其中，深度学习方法，即对专门训练的深度神经元网络的使用，保证了解决这种任务的巨大潜力。

发明内容

这种例如使用深度神经元网络的至少部分自动化系统在安全性方面的基本问题是，神经元网络在训练之后解决特定任务的能力仅当在应用情况中输入数据来自于与用以对该网络进行测试和训练的训练数据组相同的分布时才能被估计。因此，在对象识别任务中使用的深度神经元网络(DNN，英：deep neural network)仅能说出它们看到什么，而不能说出它们对此多有把握。

但是，例如对于对象识别，关于对象识别模型的可靠性的了解对于至少部分自动化的安全驾驶是非常有意义的。

当前，在至少部分自动化驾驶的范畴内，当今的可信度测试通常限于多个传感器系统的比较或基于专家知识的输入数据分析，例如用于识别困难的环境条件，例如对于光学传感器来说的雾或降低的数据质量，例如单个图像或图像序列中的运动模糊。

因此，例如，如果周围环境的代表借助深度神经元网络来进行，则在应用情况中应借助数据组来识别在确定周围环境的代表时的异常和在其中所探测到的对象。

根据本发明的一个方面，提出用于确定信任值的方法、设备和计算机程序产品以及计算机可读的存储介质，它们至少部分地具有所提及的作用。有利的构型是扩展技术方案和后面的说明书的主题。

本发明基于以下知识：可以通过以下方式辨识出在应用情况中在探测分配给一个类别的对象时的偏差：将在探测时出现的识别图案与已经借助深度神经元网络的多个训练数据求取的平均识别图案进行比较。可能存在的偏差可以被量化，以便获得在应用情况中的对象探测的信任值。

根据一个方面，提出一种用于确定输入图像中的借助经训练的神经元网络探测到的一个类别的对象的信任值的方法。

在此，在该方法的一个步骤中，借助神经元网络的隐藏层的多个输出图像为探测到的对象的类别创建激活签名，其中，将输入图像提供给神经元网络的输入端。

在另一步骤中，将激活签名缩放到输入图像的大小。在另一步骤中，将缩放后的激活签名的对象部分与神经元网络的训练数据组的同一类别的所有对象的激活签名分布进行比较，以便确定信任值。

因此，通过将来自应用情况的输入图像的激活签名与来自同一对象类别的训练数据的平均激活签名分布进行比较，可以检查经训练的深度神经元网络(DNN：英文deepneural network，深度神经元网络)在对象识别任务中所进行的预测的可信度。由此识别出训练数据与在应用情况期间的输入数据之间的偏差。