[发明专利]卷积神经网络压缩方法和装置、图像分类方法和装置

权利要求书

1.一种卷积神经网络压缩方法，其特征在于，包括：

对预训练的卷积神经网络中的各个卷积操作层分别进行卷积核聚类，得到各个卷积操作层对应的卷积核类簇；

对各个卷积操作层对应的每一卷积核类簇进行卷积核剪枝；

对卷积核剪枝后的卷积神经网络进行重训练，得到压缩后的卷积神经网络。

2.根据权利要求1所述的卷积神经网络压缩方法，其特征在于，所述对各个卷积操作层对应的每一卷积核类簇进行卷积核剪枝，具体包括：

基于预设剪枝比例，将任一卷积操作层对应的各个卷积核类簇中距离聚类中心最近的若干个卷积核参数置为0。

3.根据权利要求2所述的卷积神经网络压缩方法，其特征在于，所述基于预设剪枝比例，将任一卷积操作层对应的各个卷积核类簇中距离聚类中心最近的若干个卷积核参数置为0，之后还包括：

统计所述任一卷积操作层对应的真实剪枝数量；

对所述任一卷积操作层中未剪枝的卷积核进行补充剪枝；所述补充剪枝的卷积核数量为理论剪枝数量与所述真实剪枝数量之间的差值；所述理论剪枝数量是基于所述预设剪枝比例和所述任一卷积操作层中的卷积核数量确定的。

4.根据权利要求3所述的卷积神经网络压缩方法，其特征在于，所述对所述任一卷积操作层中未剪枝的卷积核进行补充剪枝，具体包括：

对所述任一卷积操作层中未剪枝的卷积核根据一范数进行排序；

将范数最小的若干个卷积核的参数置为0。

5.根据权利要求1至4任一项所述的卷积神经网络压缩方法，其特征在于，所述对预训练的卷积神经网络中的各个卷积操作层分别进行卷积核聚类，具体包括：

基于K均值算法，对预训练的卷积神经网络中的各个卷积操作层分别进行卷积核聚类。

6.根据权利要求5所述的卷积神经网络压缩方法，其特征在于，所述基于K均值算法，对预训练的卷积神经网络中的各个卷积操作层分别进行卷积核聚类，具体包括：

以卷积核为单位，将各个卷积操作层的参数由四维张量重构为二维矩阵；

确定各卷积操作层对应的卷积核聚类的聚类数目；

基于各卷积操作层对应的聚类数目，对各个卷积操作层的卷积核分别进行K均值聚类。

7.根据权利要求6所述的卷积神经网络压缩方法，其特征在于，所述确定各卷积操作层对应的卷积核聚类的聚类数目，具体包括：

基于所述预训练的卷积神经网络的网络结构，人工设定各卷积操作层对应的聚类数目；

或，基于不同的可选聚类数目对各个卷积操作层进行卷积核聚类，并计算对应的轮廓系数，将轮廓系数最大时所对应的可选聚类数目作为各卷积操作层对应的聚类数目。

8.一种图像分类方法，其特征在于，包括：

确定待分类图像；

将所述待分类图像输入至图像分类网络，得到所述图像分类网络输出的分类结果；

其中，所述图像分类网络是利用如权利要求1至7任一项所述的卷积神经网络压缩方法，对初始卷积神经网络进行压缩后得到的。

9.一种卷积神经网络压缩装置，其特征在于，包括：

卷积核聚类单元，用于对预训练的卷积神经网络中的各个卷积操作层分别进行卷积核聚类，得到各个卷积操作层对应的卷积核类簇；

卷积核剪枝单元，用于对各个卷积操作层对应的每一卷积核类簇进行卷积核剪枝；

网络重训练单元，用于对卷积核剪枝后的卷积神经网络进行重训练，得到压缩后的卷积神经网络。

10.一种图像分类装置，其特征在于，包括：

待分类图像确定单元，用于确定待分类图像；

图像分类单元，用于将所述待分类图像输入至图像分类网络，得到所述图像分类网络输出的分类结果；

其中，所述图像分类网络是利用如权利要求1至7任一项所述的卷积神经网络压缩方法，对初始卷积神经网络进行压缩后得到的。