[发明专利]利用量化模型进行图像处理的系统、装置及存储介质

说明书

一种模型量化方法、装置及存储介质，涉及AI技术领域，该方法包括：修改源模型各层中的量化比特数和量化策略得到的N个个体，N个个体可以组成种群，分别对种群中的N个模型进行训练，并在训练后的N个个体中选择M个优秀个体，M小于N，结合遗传算法的思想，将M个优秀个体进行交叉操作和/或变异操作，得到下一代种群，下一代种群中可以包括N个经过交叉操作和/或变异操作后的新个体，继续对下一代种群中的新个体进行类似于对初始种群的训练、选择、交叉操作和/或变异操作，再次得到下下一代种群，经过如此迭代，达到一定次数后，可以基于优胜劣汰的原理，得到精度较高和计算量较小的量化后的模型。

技术领域

本申请涉及人工智能(artificial intelligence，AI)技术领域，尤其涉及一种模型量化方法、装置及存储介质。

背景技术

AI可以应用在自动驾驶、医疗、安防、天气预测和物流等领域，使得各领域的电子设备能以人类智能相似的方式做出反应。AI的具体技术实现中，通常需要基于一定样本，训练能够实现一定功能的模型，进而电子设备可以基于该训练好的模型实现例如语音识别或图像识别等功能。

在模型训练的过程中，样本数据可以以浮点数(float)的形式输入待训练的模型，该待训练的模型可以基于浮点数进行训练，利用浮点数训练得到的模型精度较高，但是浮点数计算需要占用较大的计算资源，使得利用浮点数计算的模型难以部署在计算能力较弱的电子设备中。

一些实现中，将模型训练中的浮点数量化为整形数(int)，整形数的计算相较于浮点数难度减小，整形数的比特数越小对计算资源的占用越少，但是整形数的比特数越小训练出的模型的精度越低。精度较低的模型难以适应对精度有较高要求的场景，难以实现计算资源占用与精度之间的平衡。

发明内容

本申请实施例提供一种模型量化方法、装置及存储介质，涉及A1领域，有助于得到资源占用与精度平衡的量化模型。

第一方面，本申请实施例提供一种模型量化方法，该方法包括：获取种群；种群包括N个个体，任一个个体为修改源模型各层中的量化比特数和量化策略得到的量化模型；N为大于1的整数；基于种群，循环执行迭代步骤，直到到达迭代次数得到目标量化模型；迭代步骤包括：分别训练种群的N个个体；在训练后的N个个体中筛选M个满足预设条件的个体；将M个个体进行交叉操作和/或变异操作，得到下一代种群，下一代种群包括N个经过交叉操作和/或变异操作后的个体。

本申请实施例中，在训练后的N个个体中选择M个优秀个体，M小于N，结合遗传算法的思想，将M个优秀个体进行交叉操作和/或变异操作，得到下一代种群，下一代种群中可以包括N个经过交叉操作和/或变异操作后的新个体，继续对下一代种群中的新个体进行类似于对初始种群的训练、选择、交叉操作和/或变异操作，再次得到下下一代种群，经过如此迭代，达到一定次数后，可以基于优胜劣汰的原理，得到精度较高和计算量较小的量化后的模型。

在一种可能的实现方式中，分别训练种群的N个个体，包括：在训练N个个体中的任一个个体时，调整任一个个体中各层的权重，直到损失函数收敛或达到训练次数阈值；其中，损失函数为设置在任一个个体与源模型间的损失函数。这样，可以基于源模型与量化模型的差异训练量化模型，有助于得到输出效果好的量化模型。

在一种可能的实现方式中，还包括：在分别训练种群的N个个体时，若存在训练次数达到预设训练次数且损失函数大于预设值的L个目标个体时，丢弃L个目标个体，L为自然数。这样，若目标个体的训练次数达到预设训练次数且损失函数大于预设值，可以说明该目标个体很大概率不会达到收敛，若持续训练该目标个体，会对计算量造成浪费，且无法得到符合要求的训练后的个体，因此，丢弃目标个体，可以实现该目标个体及早退出训练，减少对计算资源的浪费。