[发明专利]一种网络模型的量化方法、装置、设备和存储介质

说明书

本公开提供了一种网络模型的量化方法、装置、设备和存储介质，涉及计算机技术领域，尤其涉及深度学习技术领域。具体实现方案为：采用裁剪参数对网络模型中网络层输出的特征点的特征值进行裁剪；对裁剪后的特征值进行量化；确定网络模型的损失函数，并根据网络模型的损失函数对网络模型中的网络参数和裁剪参数进行更新。本公开实施例能够降低网络模型的量化损失。

技术领域

本公开涉及计算机技术领域，尤其涉及深度学习技术领域，具体涉及一种网络模型的量化方法、装置、设备和存储介质。

背景技术

随着深度学习技术的飞速发展，人工神经网络等相关研究被推向高潮，其被应用于人工智能、计算机视觉、机器人控制等多个领域。

在网络模型中对于模型的训练一般需要复杂的过程和较长的时间，以保证训练的有效性和准确性。然而，神经网络的压缩问题成为深度学习领域的重要问题。

发明内容

本公开提供了一种用于网络模型的量化的方法、装置、设备和存储介质。

根据本公开的一方面，提供了一种网络模型的量化方法，包括：

采用裁剪参数对网络模型中网络层输出的特征点的特征值进行裁剪；

对裁剪后的特征值进行量化；

确定网络模型的损失函数，并根据网络模型的损失函数对网络模型中的网络参数和裁剪参数进行更新。

根据本公开的又一方面，提供了一种网络模型的量化装置，包括：

裁剪模块，用于采用裁剪参数对网络模型中网络层输出的特征点的特征值进行裁剪；

量化模块，用于对裁剪模块裁剪后的特征值进行量化；

更新模块，用于确定网络模型的损失函数，并根据网络模型的损失函数对网络模型中的网络参数和裁剪参数进行更新。

根据本公开的又一方面，提供了一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本公开任意实施例所提供的网络模型的量化方法。

根据本公开的又一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行本公开任意实施例所提供的网络模型的量化方法。

根据本公开的又一方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现本公开任意实施例所提供的网络模型的量化方法。

根据本公开的技术，能够降低网络模型的量化损失。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1是根据本公开实施例提供的一种网络模型的量化方法的示意图；

图2是根据本公开实施例提供的一种神经网络的网络模型的示意图；

图3是根据本公开实施例提供的一种特征点的特征值的分布图；

图4是根据本公开实施例提供的另一种网络模型的量化方法的示意图；

图5是根据本公开实施例提供的一种网络模型的量化装置的示意图；