[发明专利]一种图像分类方法、存储装置和处理装置

摘要

本发明属于深度神经网络技术领域，具体涉及一种基于少量无标签数据的深度卷积神经网络的压缩方法，旨在解决在已有全精度网络模型基础上，对深度卷积神经网络所有层进行压缩，且不进行基于原始有标注训练数据进行再训练时，性能损失较大的问题，包括：获取原始深度卷积神经网络；对原始深度卷积神经网络中各层的权值张量进行稀疏化操作，得到多个含有较多0元素的权值张量；在已压缩的权值张量基础之上，通过少量无标注数据对压缩后的深度卷积神经网络中的批数据归一化层中的统计量进行更新，获得新的深度卷积神经网络。通过本发明实施例，实现了在仅依赖于少量无标注数据的大型深度卷积神经网络的压缩，降低了性能损失。

主权项

1.一种基于少量无标签数据的深度卷积神经网络的压缩方法，其特征在于，包括以下步骤：步骤1：获取原始深度卷积神经网络；步骤2：确定各层的权值张量的稀疏度，对所述原始深度卷积神经网络中各层的权值张量计算所述稀疏度下的阈值，基于该阈值将不满足预设条件的张量元素置为0，得到多个稀疏表示的权值张量；步骤3：用所述多个稀疏表示的权值张量替换所述原始深度卷积神经网络中各层的权值张量，并通过少量数据重新估计并更新深度卷积神经网络中的批数据归一化层中的统计量，获得新的深度卷积神经网络；其中，所述批数据归一化层中的统计量包括各个输出通道的数据均值和方差。