[发明专利]利用简化的激活函数计算多层感知器模型的神经元层的方法

说明书

本发明涉及一种用于计算多层感知器模型的神经元层的方法，其利用以硬件构造的固定连线的计算核（11,13,14）来计算耦合的函数块中的固定预定的计算算法，其中借助于激活函数计算所述感知器模型的神经元层的神经元（20），其中所述激活函数对应于简化的S形函数和简化的tanh函数，其中所述激活函数通过指数函数的负定义域的零点镜像形成。

技术领域

本发明涉及在单独的硬连线模型计算单元中计算函数模型，特别是用于计算多层感知器模型。

背景技术

技术系统（例如内燃发动机、电驱动器、电池存储器等）的控制功能通常用表示真实系统的数学反映的模型来实现。然而，在物理模型的情况下，特别是在复杂关联的情况下缺乏所需的计算精度，并且在当今的计算能力的情况下通常难以在控制设备所需的实时要求内计算这种模型。对于这样的情况，设想使用基于数据的模型，所述模型仅基于借助于测试台等获得的训练数据来描述输出参数和输入参数之间的关联。特别地，基于数据的模型适用于对复杂关联进行建模，在复杂关联的情况下在模型中适当地考虑以下多个输入参数，在所述多个输入参数之间存在相互关系。此外，借助于基于数据的模型进行建模提供了通过添加各个输入参数来补充模型的可能性。

基于数据的函数模型通常基于大量支持点，以便实现对相应的应用来说足够的建模精度。由于支持点数量众多，为了使用基于数据的函数模型（例如高斯过程模型或多层感知器模型）来计算模型值，需要高计算能力。因此，为了能够实时地在控制设备应用中计算这种基于数据的函数模型，可以设置基于硬件设计的模型计算单元。

发明内容

根据本发明，设置了一种根据权利要求1的用于计算多层感知器模型的神经元层的方法，其使用以硬件构造的固定连线的计算核来计算耦合的函数块中的固定预定的计算算法，以及根据并列独立权利要求的模型计算单元、控制设备和控制设备的用途。

其他设计在从属权利要求中加以说明。

根据第一方面，设置了一种用于计算多层感知器模型的神经元层的方法，其使用以硬件构造的固定连线的计算核来计算耦合的函数块中的固定预定的计算算法，其中借助于激活函数计算感知器模型的神经元层的神经元，其中激活函数具有简化的S形函数和/或简化的tanh（双曲正切）函数，其中简化的S形函数和tanh函数通过指数函数的负定义域的零点镜像形成。

上述方法的思想在于提供一种计算规则，用于在基于硬件的计算单元中作为激活函数的全部或作为激活函数的一部分来计算S形函数或tanh函数的简化。特别是，该计算规则应仅将指数函数用作特殊函数，否则仅使用乘法和加法，以避免耗时和耗费资源的除法计算。这使得可以在不设置附加运算块的情况下使用适合于计算多层感知器模型的硬件计算单元。为了实现这一点，可以使用指数函数的负定义域的零点镜像并且使用将施加激活函数的值的容易读取的符号位来计算S形函数或tanh函数。

此外，具有多个神经元的感知器模型的神经元层可以依据输入参数向量的一个或多个输入参数、具有加权因子的加权矩阵和为每个神经元预定的偏移值计算每个神经元的输出参数，其中对于每个神经元，用通过神经元和输入参数确定的加权因子加权的输入参数值之和被施加上、特别是加上给该神经元预定的偏移值，并且用激活函数变换结果，以便获得神经元的输出参数。

可以规定，根据变量选择简化的S形函数或简化的tanh函数作为激活函数。

可以规定，针对值计算简化的S形函数的函数值，其方式是基于该值的负绝对值计算指数函数，其中函数值在该值的符号为正的情况下被计算为“1”与以下乘积的和，该乘积是“0.5”与指数函数的结果相乘，并且在符号为负的情况下被计算为0.5和指数函数的结果的乘积。通过这种方式，将指数函数的结果乘以0.5并且被施加以阶梯函数的结果。