[发明专利]训练用于图像识别的神经网络的方法和装置

说明书

提供了一种训练用于图像识别的神经网络的方法和装置。所述神经网络包括具有已经被联合地修剪和量化的权重和输出特征图的至少一个层。使用解析阈值函数来修剪层的权重。基于针对所有量化水平的权重的量化和解量化的加权平均来量化修剪之后剩余的每个权重，以形成层的量化的权重。基于层的量化的权重来生成层的输出特征图。基于针对所有量化水平的输出特征图的量化和解量化的加权平均来量化层的每个输出特征图。使用代价函数来更新解析阈值函数的参数、权重的所有量化水平的加权平均以及层的每个输出特征图的加权平均。

本申请要求于2019年3月15日提交的第62/819,484号美国临时申请和于2019年4月26日提交的第16/396,619号美国申请的优先权权益，所述美国申请的公开通过引用全部包含于此。

技术领域

在此公开的主题涉及神经网络。更具体地，在此公开的主题涉及训练用于图像识别的神经网络的方法和装置。

背景技术

在用于图像识别的神经网络的推断阶段期间，权重和激活函数的输出特征图占用大量的存储器。神经网络也使用大量的运算来计算输出推断。因此，在图像识别过程中，需要大量的存储器和大量的运算。

发明内容

示例实施例提供了一种训练用于图像识别的神经网络的方法，所述方法可包括：获取训练图像；基于训练图像中的第一训练图像对神经网络进行预训练；使用解析阈值函数对预训练后的神经网络的层的权重进行修剪；基于针对所有量化水平的权重的量化和解量化的加权平均来对修剪之后剩余的所述层的每个权重进行量化，以形成所述层的量化的权重；基于所述层的量化的权重和训练图像中的第二训练图像来确定所述层的输出特征图；基于针对所有量化水平的输出特征图的量化和解量化的加权平均来量化所述层的每个输出特征图；和使用代价函数来更新解析阈值函数的参数、权重的所有量化水平的加权平均以及所述层的每个输出特征图的加权平均。

示例实施例提供了一种训练用于图像识别的神经网络的装置，所述装置可包括接口和处理装置。接口可接收神经网络。接收的神经网络可包括多个层。处理装置可获取训练图像；基于训练图像中的第一训练图像对接收的神经网络进行预训练；对预训练后的神经网络执行预定处理以生成包括具有已经被联合地修剪和量化的权重和输出特征图的至少一个层的神经网络。预定处理可包括：使用解析阈值函数来修剪预训练后的神经网络的所述至少一个层的权重，基于针对所有量化水平的权重的量化和解量化的加权平均来量化修剪之后剩余的所述至少一个层的每个权重以形成所述至少一个层的量化的权重，基于所述至少一个层的量化的权重和训练图像中的第二训练图像来确定所述至少一个层的输出特征图，基于针对所有量化水平的输出特征图的量化和解量化的加权平均来量化所述至少一个层的每个输出特征图，并且使用代价函数来更新解析阈值函数的参数、权重的所有量化水平的加权平均以及所述至少一个层的每个输出特征图的加权平均。

示例实施例提供了一种神经网络，所述神经网络可包括多个层，其中，至少一个层可包括联合地修剪和量化的权重以及输出特征图。可使用解析阈值函数来修剪联合地修剪的权重。还可基于针对所有量化水平的权重的量化和解量化的加权平均来量化在修剪之后剩余的每个权重。可基于层的修剪和量化的权重来形成输出特征图。可基于针对所有量化水平的输出特征图的量化和解量化的加权平均以及解析阈值函数的参数来量化每个输出特征图。可基于代价函数来更新权重的所有量化水平的加权平均以及层的每个输出特征图的加权平均。在一个实施例中，在所述至少一层的权重以及输出特征图被联合地修剪和量化之前，神经网络是全精度训练的神经网络。在另一实施例中，代价函数包括修剪损失项、权重量化损失项以及特征图量化损失项。