[发明专利]前向计算的实现方法及装置、存储介质、电子装置

说明书

本发明提供了一种前向计算的实现方法及装置、存储介质、电子装置，上述方法包括：获取目标神经网络的前向计算对应的计算参数，其中，所述计算参数包括以下至少之一：所述目标神经网络的结构，所述目标神经网络的权值；对所述计算参数执行低精度量化过程，以得到量化后的数据；通过数字信号处理DSP端对所述量化后的数据进行处理，以实现所述目标神经网络的前向计算，采用上述技术方案，解决了相关技术中通过CPU对目标神经网络进行计算时，由于CPU计算能力有限，无法有效提高计算性能等问题。

技术领域

本发明涉及通信领域，具体而言，涉及一种前向计算的实现方法及装置、存储介质、电子装置。

背景技术

随着技术发展，深度学习的相关技术在图像处理、语音识别、文本处理以及安防监控等多领域得到了广泛的应用，它们通常是嵌入式视觉的应用，对智能业务的实时性要求很高。

目标神经网络(Convolutional Neural Network，简称为CNN)作为深度学习的一种前馈型的神经网络，其在大型图像处理方面有出色的表现，目前已经被大范围使用到图像分类、定位等领域中。相比于其他神经网络结构，目标神经网络需要的参数相对较少，使其能够广泛应用并深入研究，在图像处理及模式识别的实际应用中，目标神经网络一般采用较多的网络层实现，其运算复杂度较高，包含了大量密集的图像卷积运算等，直接影响算法性能，基于CPU处理器实现CNN算法，由于计算速率有限，已无法明显提高算法运行性能。

相关技术中提供了一种技术方案，结合图形处理芯片的硬件特点，重点提高数据输入的效率，平衡数据输入和数据运算之间资源比例。其一利用片上共享内存实现通用矩阵乘的优化，但硬件上会带来比较大花费。

针对相关技术中，通过CPU对目标神经网络进行前向计算时，由于CPU计算能力有限，无法有效提高计算性能等问题，尚未提出有效的技术方案。

发明内容

本发明实施例提供了一种前向计算的实现方法及装置、存储介质、电子装置，以至少解决相关技术中通过CPU对目标神经网络进行计算时，由于CPU计算能力有限，无法有效提高计算性能等问题。

本发明实施例提供了一种前向计算的实现方法，包括：获取目标神经网络的前向计算对应的计算参数，其中，所述计算参数包括以下至少之一：所述目标神经网络的结构，所述目标神经网络的权值；对所述计算参数执行低精度量化过程，以得到量化后的数据；通过数字信号处理DSP端对所述量化后的数据进行处理，以实现所述目标神经网络的前向计算。

在本发明实施例中，对所述计算参数执行低精度量化过程，以得到量化后的数据，包括：对所述计算参数执行int8量化过程，以得到量化后的数据。

在本发明实施例中，对所述计算参数执行int8量化过程，以得到量化后的数据，包括：获取浮点型的所述计算参数；将所述浮点型的所述计算参数按照第一目标公式进行int8量化过程，以得到量化后的数据。

在本发明实施例中，将所述浮点型的所述计算参数按照第一目标公式进行int8量化过程，以得到量化后的数据，包括：获取浮点型的所述目标神经网络的结构C＝X*Y+B，以及所述目标神经网络的权值Y，其中，X是所述目标神经网络的输入input,Y是所述目标神经网络的权重weight，B是所述目标神经网络偏置bias，且所述X，Y和B均为浮点型数据；通过以下公式：x＝X*s1，以及y＝Y*s2分别将x和y均变成int8型的数据；通过以下公式b＝B*s1*s2，以及c＝(x*y+b)*(s/s1/s2)，以实现得到量化后的数据c，其中，所述s，s1和s2均为定值，且s1和s2均为浮点型数据，s为所述目标神经网络当前层的下一层的输入量化因子。