[发明专利]一种神经网络模型的卷积运算优化方法和装置

说明书

本发明提供了一种神经网络模型的卷积运算优化方法和装置，包括：在通道维度对输入特征图进行切分，得到每个组的子输入特征图；分别对每个子输入特征图进行不同的组卷积操作，提取每个组所包含通道的特征信息，得到不同的子输出特征图；将所有分组的子输出特征图进行混洗、组合，得到输出特征图。本发明在保证模型效果的前提下减少网络模型的运算时耗。

技术领域

本发明涉及神经网络模型技术领域，尤指一种神经网络模型的卷积运算优化方法和装置。

背景技术

近年来，随着深度神经网络的蓬勃发展，学术圈和工业界共同目睹了深度学习在众多领域的重大突破，但是神经网络模型的大小和计算量却成为其在实际应用中的瓶颈，使其难以应用于一些实时性要求较高的场景，例如在线视频质量检测这样的典型应用场景。

减少神经网络中的计算量能够有效地减少神经网络的运算时耗。但是，减少神经网络中的计算量可能会导致模型的表达能力下降，从而影响模型的实际效果。

发明内容

本发明的目的是提供一种神经网络模型的卷积运算优化方法和装置，在保证模型效果的前提下减少网络模型的运算时耗。

本发明提供的技术方案如下：

一种神经网络模型的卷积运算优化方法，应用于从输入特征图提取特征信息，得到输出特征图的卷积操作，包括：在通道维度对所述输入特征图进行切分，得到每个组的子输入特征图；分别对每个子输入特征图进行不同的组卷积操作，提取每个组所包含通道的特征信息，得到不同的子输出特征图；将所有分组的子输出特征图进行混洗、组合，得到所述输出特征图。

进一步的，所述在通道维度对所述输入特征图进行切分，得到每个组的子输入特征图，包括：对所述输入特征图按照所述输入特征图的通道数进行切分，得到每个通道的子输入特征图。

进一步的，所述组卷积操作包括：采用若干个深度可分离卷积分别处理所述子输入特征图的每个通道的信息，其中，所述深度可分离卷积是通道为1的卷积核，所采用的深度可分离卷积的个数等于所述子输入特征图的通道数；通过1×1的点卷积合并所述深度可分离卷积提取到的不同通道的特征，得到子输出特征图。

进一步的，所述组卷积操作包括：对所述子输入特征图通过1×1的点卷积进行升维，得到通道数增加的子输入特征图；对所述通道数增加的子输入特征图通过深度可分离卷积进行特征提取，得到特征信息；对所述特征信息通过1×1的点卷积进行降维，得到子输出特征图，所述子输出特征图的通道数等于所述子输入特征图的通道数。

进一步的，所述对所述子输入特征图通过1×1的点卷积进行升维，包括：对所述子输入特征图通过1×1的点卷积进行升维，并对升维后的卷积结果采用非线性激活函数进行非线性操作；所述通过深度可分离卷积进行特征提取，包括：先通过深度可分离卷积进行特征提取，再通过所述非线性激活函数进行非线性操作；所述对所述特征信息通过1×1的点卷积进行降维，包括：对所述特征信息通过1×1的点卷积进行降维，再通过线性激活函数进行激活处理。

进一步的，所述非线性激活函数为ReLU6激活函数。

本发明还提供一种神经网络模型的卷积运算优化装置，应用于从输入特征图提取特征信息，得到输出特征图的卷积操作，包括：通道分解模块，用于在通道维度对所述输入特征图进行切分，得到每个组的子输入特征图；分组卷积模块，用于分别对每个子输入特征图进行不同的组卷积操作，提取每个组所包含通道的特征信息，得到不同的子输出特征图；特征混洗模块，用于将所有分组的子输出特征图进行混洗、组合，得到所述输出特征图。

进一步的，所述分组卷积模块包括：单通道特征提取单元，用于采用若干个深度可分离卷积分别处理所述子输入特征图的每个通道的信息，其中，所述深度可分离卷积是通道为1的卷积核，所采用的深度可分离卷积的个数等于所述子输入特征图的通道数；特征合并单元，用于通过1×1的点卷积合并所述深度可分离卷积提取到的不同通道的特征，得到子输出特征图。