[发明专利]一种神经网络的激活函数计算量化方法

权利要求书

1.一种神经网络的激活函数计算量化方法，所述激活函数具有极值,其特征在于,包括如下步骤:

S1：确定线性放大系数A;

在计算所需区间内,计算激活函数Y=F(X)各点导数,导数最大值作为线性放大系数;所述激活函数为奇函数或偶函数；

S2：计算X=1/A，2/A.....n/A的对应函数值Y1、Y2、…YN作为查表的结果；其中n为区间内设定的查找表长度，N=1、2…n；所述查找表长度n=INT (B*A),B为激活函数的反函数在计算所需区间终点的值，INT表示取整；

所得到的数据表为如下形式，

X1、X2、…XN表示查表输入值，

Y1、Y2、…YN表示查表输出值；

其中, Y=lut（INT（X*A））；

其中X为输入的待计算数据，A为输入线性放大系数，INT为取整函数；lut为查表函数,取整的结果作为查表的地址进行查表，根据输入地址，得到存储在内部的数据；

查找表由一个随机存取存储器RAM实现；

S3：计算查表输入值X=INT(in*A)，其中in为直接输入值，INT表示取整，根据得到的查表输入值X，在步骤S2的数据表中查出对应的查表输出值Y。

2.如权利要求1所述神经网络的激活函数计算量化方法，其特征在于，所述查找表存储在随机存取存储器RAM中。

3.如权利要求1所述神经网络的激活函数计算量化方法，其特征在于，所述INT函数为向上取整、向下取整或四舍五入取整中的一种。