[发明专利]用于修正神经网络中的有错误的神经元函数的方法和设备

说明书

本发明涉及用于修正神经网络中的有错误的神经元函数的方法和设备。本发明涉及一种用于根据神经元输出值（o₁，o₂）来计算神经网络的输出值的方法、尤其是计算机实施的方法，所述神经网络具有多个神经元（1），所述方法具有下列步骤：‑检查（S1，S2）神经元组的一个或者多个神经元的神经元函数；‑在查明神经元组中的错误时，确定（S3）错误的致命性；‑根据所查明的错误的致命性，修正（S5）神经元组的一个或者多个神经元（1）中的至少一个神经元的神经元输出值（o₁，o₂）。

技术领域

本发明涉及神经网络，并且尤其是涉及用于检查和修正神经网络中的神经元的功能的措施。

背景技术

显而易见地，采用机器学习方法，以便应对在不同领域中的复杂任务提出。尤其是，有学习能力的系统适合于如例如图像分类、对象识别、语音处理以及其他等等之类的任务提出。通过将高度并行的计算单元设置在单个部件上的可能性，可以实施具有高并行性的深度神经网络。

尤其是在高度集成地实施深度神经网络的情况下，涉及一个或者多个单个神经元的硬件错误变得更有可能。因而，必要性原则上是识别功能错误。

针对错误识别，并且必要时针对错误校正，必需一种形式的冗余。在一般情况下，如何充分利用冗余以便识别出错误和必要时修正错误的方式和方法是问题特定的（Problemspezifisch）。不同冗余形式的组合也经常被应用于整个系统的多个层面。冗余原则上可以包括空间冗余（结构的倍增）、时间冗余（时间上错移地进行的检查）和编码（呈相同信息内容的多重信息形式的冗余）。

也可以在深度神经网络的领域中采用传统的用于设置冗余的方案。这例如包含对神经网络的部分的复制诸如此类。可是，可以查明，针对深度神经网络只能不令人满意地可采用已知方案中的许多方案。尤其是，针对深度神经网络设置冗余的传统方案介入深度神经网络的架构，或改变深度神经网络的训练方法，或者需要专用硬件或者修改在标准部件中未设置的硬件。

发明内容

根据本发明，设置了根据权利要求1所述的一种用于修正神经网络的神经元函数的方法，以及设置了根据并列权利要求所述的一种神经网络。

其他构建方案在从属权利要求中予以说明。

根据第一方面，设置了一种用于计算具有多个神经元的神经网络的输出值的方法，所述方法具有下列步骤：

- 检查神经元组的一个或者多个神经元的神经元函数；

- 在查明神经元组中的错误时，确定该错误的致命性；

- 根据所查明的错误的致命性，修正神经元组的一个或者多个神经元中的至少一个神经元的神经元输出值。

从现有技术中已知的校验和方法设置了，通过校验和比较，测定有错误的神经元计算。这样，可以相对应地借助比较计算来修正神经元组的被辨识出的有错误的神经元。对此，在一般情况下，计算神经元组的多个神经元的神经元输出的和，并且将该和与校验和进行比较。如果这两个值的差不等于零，则存在错误。在此，可以从如下神经元输入值的和中测定校验和：所述神经元输入值利用加权因子来加权，所述加权因子分别从神经元组的属于输入值的权重的和中得出。在存在偏置值的情况下，附加地必须将神经元组的偏置值的和添加到校验和。

对神经元中的错误的定位在最简单情况下仅限于多个神经元的神经元组，所述神经元组是所有神经元的子集。但是通过多重校验和计算，可以实现更精确的定位，直至定位各个有错误的神经元。然而，更精确的定位随着校验和的开销更高的计算而出现，使得神经网络的推断的时间必要时上升。

针对识别出的计算错误，可以设置如下校正：所述校正以合适的方式替代有错误的神经元输出值。