[发明专利]产生输入图像的分类的卷积神经网络及计算机实现方法

说明书

产生输入图像的分类的卷积神经网络及计算机实现方法。在此公开了用于产生输入图像的分类的卷积神经网络(CNN)系统。根据实施例，CNN系统包括：一系列的神经网络层，被配置为：至少基于输入图像获得特征图；通过根据模式将特征图和内核中的至少一个选择的一行的一个或多个元素的值设置为零，并且将所述模式每行循环移位预定间隔以根据循环移位的模式将所述至少一个选择的剩余的行的一个或多个元素的值设置为零，来对所述至少一个选择进行穿孔；对特征图与内核进行卷积，以产生第一卷积输出；至少基于第一卷积输出，产生输入图像的分类。

本申请要求于2017年4月18日提交的标题为“用于降低卷积神经网络的计算复杂度的方法和设备”的第62/486,626号美国临时专利申请的优先权和权益，以及于2017年6月27日提交的题目为“用于降低卷积神经网络的计算复杂度的方法和设备”的第15/634,537号美国非临时专利申请的优先权和权益，所述美国专利申请的全部内容通过引用合并于此。

技术领域

本公开涉及卷积神经网络。具体地，本公开涉及一种降低卷积神经网络的计算复杂度的方法和设备。

背景技术

卷积神经网络(CNN)系统是一种具有许多应用的前馈人工神经网络。CNN系统在机器学习领域中(例如，在目标检测、图像分类、场景分割和诸如超分辨率和视差估计的图像质量提高中)已经发展成为最先进的。

CNN系统通常包括多层卷积滤波器(也被称为“加权内核”或仅称为“内核”)。每个卷积层可接收特征图作为输入，其中，特征图与内核卷积以产生卷积输出。由于深度神经网络中在每一层可能需要处理的大量的特征图、大的内核大小以及越来越多的层，训练和运行CNN系统通常计算昂贵。复杂度也随着较大的输入大小(例如，全高清(HD)图像)和所有中间特征图而增加，其中，较大的输入大小转化成输入特征图的较大的宽度和高度。

许多应用(诸如，行人检测)需要快速实时处理。当前的硬件架构和图形处理器(GPU)目的在于对多个处理单元进行并行处理以加快处理。然而，由于最近在电力有限的电子装置(诸如，移动装置)上实现深度CNN系统的趋势，期望减少计算负担以降低功耗并加快处理时间。

发明内容

在此公开了用于产生输入图像的分类的卷积神经网络(CNN)系统。根据实施例，CNN系统包括：神经网络层的序列，被配置为：至少基于输入图像获得特征图；通过根据模式将特征图和内核中的至少一个选择的一行的一个或多个元素的值设置为零，并且将所述模式每行循环移位预定间隔以根据循环移位的模式将所述至少一个选择的剩余的行的一个或多个元素的值设置为零，来对所述至少一个选择进行穿孔；对特征图与内核进行卷积，以产生第一卷积输出；至少基于第一卷积输出，产生输入图像的分类。

在此还公开了产生输入图像的分类的计算机实现方法，所述方法由通过一个或多个计算机实现的卷积神经网络(CNN)系统执行，所述CNN系统包括神经网络层的序列。根据实施例，所述计算机实现方法包括：由神经网络层，至少基于输入图像获得特征图；由神经网络层，通过根据模式将特征图和内核中的至少一个选择的一行的一个或多个元素的值设置为零，并且将所述模式每行循环移位预定间隔以根据循环移位的模式将所述至少一个选择的剩余的行的一个或多个元素的值设置为零，来对所述至少一个选择进行穿孔；由神经网络层，对特征图与内核进行卷积以产生第一卷积输出；由神经网络层，至少基于第一卷积输出产生输入图像的分类。

附图说明

作为本公开的部分包括的附图示出各种实施例，并与以上给出的总体描述和以下给出的各种实施例的详细描述一起用于解释和教导在此描述的原理。

图1示出特征图和内核的示例卷积操作以说明这种操作的典型的计算成本。

图2示出对未穿孔的特征图与未穿孔的内核进行卷积的示例图。

图3示出根据本系统和方法的实施例的对穿孔的特征图与未穿孔的内核进行卷积的示例图。