[发明专利]一种低功耗芯片及其数据处理方法、存储介质

说明书

本发明公开了一种低功耗芯片及其数据处理方法、存储介质，该方法包括：根据区块图像的第一量化因子、区块图像的权重矩阵的第二量化因子，以及区块图像对应的偏置量，评估偏置量被量化后是否会发生溢出；若确定偏置量被量化后会发生溢出，则对第一量化因子和第二量化因子中的至少一个进行修正；用修正后的量化因子和其余未修正的量化因子对区块图像、权重矩阵及偏置量进行量化；用定点运算器对量化后的区块图像、量化后的权重矩阵、量化后的偏置量进行对应网络层的定点运算，获得定点运算结果；对定点运算结果进行反量化运算，获得区块图像的区块特征。

技术领域

本发明涉及神经网络量化领域，尤其是涉及一种低功耗芯片及其数据处理方法、存储介质。

背景技术

在图像识别中，通常会采用神经网络来提取图像中的特征，进而识别图像。

然而，神经网络中由于参数量和计算量都非常大，且这些数据都为浮点数据，而低功耗芯片中浮点运算指令的处理速度通常较慢，因此难以及时处理神经网络中各网络层产生的大量数据，进而导致神经网络难以部署到低功耗芯片上，或即便能部署处理速度也极慢，难以满足用户需求。

现有技术中，提高部署了神经网络的低功耗芯片的处理速度，往往会将神经网络中各网络层接收到的浮点数据量化为整型数据(也可以称之为定点数据)，再用低功耗芯片中的定点运算器对量化后的数据进行对应网络层的定点计算，由于定点运算指令的处理速度远大于浮点指令的处理速度，因此能够提高部署了神经网络的低功耗芯片的处理速度。

通常，神经网络包含卷积层和全连接层，在卷积层和全连接层的量化(quantize)过程，当激活值及激活值的权重存在分布极值非常小的情况，将导致量化过程中的偏置量出现溢出，这使得定点运算器收到的量化后的数据部分丢失，致使定点运算器计算出的结果不够准确，从而降低了卷积层和全连接层提取的图像特征的精度，这些低精度特征在神经网络的各网络层中不断累积，导致用部署了神经网络的低功耗芯片进行图像识别不够准确的问题。

鉴于此，如何提高部署了神经网络的低功耗芯片识别图像的准确率，成为一个亟待解决的技术问题。

发明内容

本发明提供一种低功耗芯片及其数据处理方法、存储介质，用以解决现有技术中存在的部署了神经网络的低功耗芯片识别图像的准确率不高的技术问题。

第一方面，为解决上述技术问题，本发明实施例提供的一种低功耗芯片的数据处理方法，所述低功耗芯片包括定点运算器，所述数据处理方法的技术方案如下：

根据接收到的区块图像的第一量化因子、所述区块图像的权重矩阵的第二量化因子，以及所述区块图像对应的偏置量，评估所述偏置量被量化后是否会发生溢出；其中，所述区块图像、所述权重矩阵及所述偏置量对应的数据类型为浮点数据；

若确定所述偏置量被量化后会发生溢出，则对所述第一量化因子和所述第二量化因子中的至少一个进行修正；

用修正后的量化因子和其余未修正的量化因子对所述区块图像、所述权重矩阵及所述偏置量进行量化；

用所述定点运算器对量化后的区块图像、量化后的权重矩阵、量化后的偏置量进行对应网络层的定点运算，获得定点运算结果；其中，所述量化后的区块图像、所述量化后的权重矩阵及所述量化后的偏置量的数据类型均为整型数据；

对所述定点运算结果进行反量化运算，获得所述区块图像的区块特征。

一种可能的实施方式，根据接收到的区块图像的第一量化因子、所述区块图像的权重矩阵的第二量化因子，以及所述区块图像对应的偏置量，评估所述偏置量被量化后是否会发生溢出，包括：

根据所述区块图像中数据分布的极值，确定所述第一量化因子；根据所述权重矩阵中数据分布的极值，确定所述第二量化因子；

用所述第一量化因子和所述第二量化因子对所述偏置量进行预量化，获得预量化后的偏置量；