[发明专利]图像的处理方法、装置、设备及存储介质

说明书

本发明涉及人工智能技术领域，提供一种图像的处理方法、装置、设备及存储介质，用于减少图像处理的计算量和内存占用高，以及降低其计算效率。图像的处理方法包括：对预训练后的图像处理模型进行目标量化节点插入，得到修改后的图像处理模型；对所述修改后的图像处理模型进行量化训练，得到量化后的图像处理模型；对所述量化后的图像处理模型进行冗余节点删除，得到初始图像处理模型；获取所述初始图像处理模型部署后的目标图像处理模型，以及待处理图像，并通过所述目标图像处理模型对所述待处理图像进行分析处理，得到图像信息。

技术领域

本发明涉及神经网络领域，尤其涉及一种图像的处理方法、装置、设备及存储介质。

背景技术

在图像识别领域，现在比较流行的卷积神经网络(也称深度神经网络)是计算密集型的算法，它需要进行大量的矩阵乘法的运算。通常都会把神经网络部署在图形处理器(graphics processing unit，GPU)上去计算，虽然可以降低一定的推理耗时，但总的计算量并没有降低，消耗的内存也非常大，且通常GPU设备的内存都比较小。如果将卷积神经网络的计算量减少，内存占用量减少，是一个在深度学习领域中比较重要的话题。

量化是常见的减少网络计算量的方法之一。通常在深度神经网络的训练以及推理中，采用32比特的浮点数来进行计算，量化便是指将连续的32比特的浮点数近似为有限的离散值的过程。常见的量化方法便是将32比特的浮点数映射到8比特的整数上，使得浮点的计算变成整数(定点数)的计算。

32比特的浮点数的取值范围是远大于8比特的整数的，那么直接将32比特对称映射到8比特的整数则会造成信息的大量损失。常见的减少信息损失的方法是后训练量化，即对训练完的模型进行一定规模数据集的推理，从而得到神经网络中每一个层输入(输出)的分布，将这些分布通过划分区间的算法进行截断并映射到8比特的取值得到另一个分布，然后通过KL散度等方法评估两个分布的近似值从而确定一个最优的截断区间(也称饱和区间)。虽然通过这种方法可以降低模型量化的损失，使得量化后的分布接近于模型原有的分布，但在实际一些场景的应用下精度并不能达到理想的要求，因为模型的权重实际没有跟随着量化产生改变，也就是说模型对于输入被量化的鲁棒性可能比较差，依旧存在图像处理的计算量大、内存占用高和计算效率低的问题。

发明内容

本发明提供一种图像的处理方法、装置、设备及存储介质，用于减少图像处理的计算量和内存占用高，以及降低其计算效率。

本发明第一方面提供了一种图像的处理方法，包括：

对预训练后的图像处理模型进行目标量化节点插入，得到修改后的图像处理模型；

对所述修改后的图像处理模型进行量化训练，得到量化后的图像处理模型；

对所述量化后的图像处理模型进行冗余节点删除，得到初始图像处理模型；

获取所述初始图像处理模型部署后的目标图像处理模型，以及待处理图像，并通过所述目标图像处理模型对所述待处理图像进行分析处理，得到图像信息。

可选的，在本发明第一方面的第一种实现方式中，所述对预训练后的图像处理模型进行目标量化节点插入，得到修改后的图像处理模型，包括：

对预训练后的图像处理模型进行目标节点识别，得到待量化节点，并获取所述待量化节点的节点类型；

基于所述节点类型，对所述待量化节点进行目标量化节点插入，得到修改后的图像处理模型，目标量化节点为由量化节点后紧接着反量化节点构成的节点。

可选的，在本发明第一方面的第二种实现方式中，所述基于所述节点类型，对所述待量化节点进行目标量化节点插入，得到修改后的图像处理模型，包括：

当所述节点类型用于指示带权重的节点时，对所述待量化节点进行逐张量的目标量化节点插入和逐通道的目标量化节点插入，得到修改后的图像处理模型；