[发明专利]前向计算的实现方法及装置、存储介质、电子装置

权利要求书

1.一种前向计算的实现方法，其特征在于，包括：

获取目标神经网络的前向计算对应的计算参数，其中，所述计算参数包括以下至少之一：所述目标神经网络的结构，所述目标神经网络的权值；

对所述计算参数执行低精度量化过程，以得到量化后的数据；

通过数字信号处理DSP端对所述量化后的数据进行处理，以实现所述目标神经网络的前向计算。

2.根据权利要求1所述的方法，其特征在于，对所述计算参数执行低精度量化过程，以得到量化后的数据，包括：

对所述计算参数执行int8量化过程，以得到量化后的数据。

3.根据权利要求1所述的方法，其特征在于，对所述计算参数执行int8量化过程，以得到量化后的数据，包括：

获取浮点型的所述计算参数；

将所述浮点型的所述计算参数按照第一目标公式进行int8量化过程，以得到量化后的数据。

4.根据权利要求3所述的方法，其特征在于，将所述浮点型的所述计算参数按照第一目标公式进行int8量化过程，以得到量化后的数据，包括：

获取浮点型的所述目标神经网络的结构C＝X*Y+B，以及所述目标神经网络的权值Y，其中，X是所述目标神经网络的输入input,Y是所述目标神经网络的权重weight，B是所述目标神经网络偏置bias，且所述X，Y和B均为浮点型数据；

通过以下公式：x＝X*s1，以及y＝Y*s2分别将x和y均变成int8型的数据；

通过以下公式b＝B*s1*s2，以及c＝(x*y+b)*(s/s1/s2)，以实现得到量化后的数据c，其中，所述s，s1和s2均为定值，且s1和s2均为浮点型数据，s为所述目标神经网络当前层的下一层的输入量化因子。

5.根据权利要求1所述的方法，其特征在于，通过数字信号DSP端对所述量化后的数据进行处理，以实现所述目标神经网络的前向计算之前，所述方法还包括：

获取为所述目标神经网络配置的所述前向计算的代码执行算子；

将所述代码执行算子通过目标函数传输到所述DSP端，以使所述DSP端根据所述代码执行算子并行对所述量化后的数据进行处理，以实现所述目标神经网络的前向计算。

6.根据权利要求1所述的方法，其特征在于，获取目标神经网络的前向计算对应的计算参数之后，所述方法还包括：

遍历所述目标神经网络；

在检测到所述目标神经网络中存在目标网络片段的情况下，将所述目标神经网络中的目标层的权重合并到所述目标神经网络的卷积层。

7.根据权利要求6所述的方法，其特征在于，将所述目标神经网络中的目标层的权重合并到所述目标神经网络的卷积层，包括：

在检测到所述目标神经网络中存在Conv，BN以及Scale的网络片段的情况下，将BN层和Scale层的权重合并到所述目标神经网络的卷积层中；

在检测到所述目标神经网络中存在Conv以及BN的网络片段的情况下，将BN层的权重合并到所述目标神经网络的卷积层中。

8.一种前向计算的实现装置，其特征在于，包括：

获取模块，用于获取目标神经网络的前向计算对应的计算参数，其中，所述计算参数包括以下至少之一：所述目标神经网络的结构，所述目标神经网络的权值；

量化模块，用于对所述计算参数执行低精度量化过程，以得到量化后的数据；

处理模块，用于通过数字信号处理DSP端对所述量化后的数据进行处理，以实现所述目标神经网络的前向计算。

9.一种计算机可读的存储介质，其特征在于，所述存储介质中存储有计算机程序，其中，所述计算机程序被设置为运行时执行所述权利要求1至7任一项中所述的方法。

10.一种电子装置，包括存储器和处理器，其特征在于，所述存储器中存储有计算机程序，所述处理器被设置为运行所述计算机程序以执行所述权利要求1至7任一项中所述的方法。