[发明专利]神经网络预测方法、装置、电子设备和自动驾驶系统

说明书

本申请公开了神经网络的预测方法、装置、电子设备及存储介质，涉及人工智能领域，尤其是自动驾驶(包括自主泊车)领域。具体实现方案为：根据神经网络的第一输入张量和第二输入张量，确定对应的第一初始输入量化参数和第二初始输入量化参数；量化处理第一初始输入量化参数和第二初始输入量化参数，分别得到第一目标输入量化参数和第二目标输入量化参数；确定神经网络的输出张量对应的初始输出量化参数；根据量化处理的量化尺度以及初始输出量化参数，确定目标输出量化参数；根据第一输入张量、第一目标输入量化参数、第二输入张量、第二目标输入量化参数和目标输出量化参数，预测输出张量的量化值。本申请可以减少资源使用量，降低功耗。

技术领域

本申请涉及一种信息技术领域，尤其涉及人工智能领域，尤其是自动驾驶(包括自主泊车)领域。

背景技术

目前深度学习领域常用的卷积神经网络中，为了提高运算效率，在神经网络的预测阶段，多采用定点量化的方式。例如：采用输入量化参数对输入数据进行量化；在预测过程中用量化后的输入数据得到量化的输出数据；对采用输出量化参数对量化的输出数据进行反量化，得到输出数据。由于输入量化参数和输出量化参数均为浮点数或高精度定点数，因此对资源的使用量较大，功耗也较大。

在人工智能领域，尤其是自动驾驶领域，也存在同样的问题。例如，在自主泊车领域的应用场景中，传统的神经网络的计算基于浮点数或高精度定点数的量化参数，造成大量的资源浪费。

发明内容

本申请实施例提供一种神经网络预测方法、装置、电子设备和自动驾驶系统，以解决相关技术存在的问题，技术方案如下：

第一方面，本申请实施例提供了一种神经网络预测方法，包括：根据神经网络的第一输入张量和第二输入张量，确定对应的第一初始输入量化参数和第二初始输入量化参数；量化处理第一初始输入量化参数和第二初始输入量化参数，分别得到第一目标输入量化参数和第二目标输入量化参数；确定神经网络的输出张量对应的初始输出量化参数；根据量化处理的量化尺度以及初始输出量化参数，确定目标输出量化参数；根据第一输入张量、第一目标输入量化参数、第二输入张量、第二目标输入量化参数和目标输出量化参数，预测输出张量的量化值。

上述技术方案对输入张量和输出张量对应的量化参数进行量化处理，并利用量化后的量化参数对输入张量进行量化，由于量化后的量化参数的比特位(bit)较少，因此可以减少资源使用量，降低功耗。

在一种实施方式中，根据量化处理的量化尺度以及初始输出量化参数，确定目标输出量化参数，包括：融合量化处理的量化尺度以及述初始输出量化参数，确定目标输出量化参数；其中，量化处理的量化尺度包括第一目标输入量化参数与第一初始输入量化参数的变化倍数或第二目标输入量化参数与第二初始输入量化参数的变化倍数。

上述技术方案通过将量化参数的变化倍数与量化前的输出量化参数进行融合，从而使得在线性预算过程中，融合后的输出量化参数能够保持高精度，以最大限度保持运算精度。

在一种实施方式中，量化处理第一初始输入量化参数和第二初始输入量化参数，分别得到第一目标输入量化参数和第二目标输入量化参数，包括：

量化处理第一初始输入量化参数和第二初始输入量化参数，并使第一初始输入量化参数、第一目标输入量化参数、第二初始输入量化参数和第二目标输入量化参数，满足以下关系：

new_scale1/new_scale2﹣scale1/scale2＝min(x/y-scale1/scale2)，

其中，x＝1,2,3,…,2ⁿ-1，y＝1,2,3,...,2ⁿ-1，n表示预设的量化比特数，new_scale1表示第一目标输入量化参数，scale1表示第一初始输入量化参数，new_scale2表示第二目标输入量化参数，scale2表示第二初始输入量化参数。