[发明专利]产生输入图像的分类的卷积神经网络及计算机实现方法

权利要求书

1.一种卷积神经网络系统，所述卷积神经网络系统包括：

一系列的神经网络层，被配置为：

至少基于输入图像获得特征图；

通过根据模式将特征图和内核中的至少一个选择的多个行中的一行的一个或多个元素的值设置为零，并且将所述模式每行循环移位预定间隔以根据循环移位的模式将所述至少一个选择的所述多个行中的剩余的行的一个或多个元素的值设置为零，来对所述至少一个选择进行穿孔；

对特征图与内核进行卷积，以产生第一卷积输出；

至少基于第一卷积输出，产生输入图像的分类。

2.根据权利要求1所述的卷积神经网络系统，其中，对特征图和内核中的所述至少一个选择进行穿孔的步骤包括：当((w+h)modulo d)-s＝0时，将在所述至少一个选择的在索引(w,h)的元素的值设置为零，其中，s为整数的移位值，d为整数的大于1的穿孔间隔值，w和h为元素的索引值，modulo表示取模运算。

3.根据权利要求1所述的卷积神经网络系统，其中，对特征图和内核中的所述至少一个选择进行穿孔的步骤包括：执行所述至少一个选择与遮蔽矩阵的点积，

其中，当((w+h)modulo d)-s＝0时，在遮蔽矩阵的索引(w,h)的元素的值为零，

其中，当((w+h)modulo d)-s≠0时，在遮蔽矩阵的索引(w,h)的元素的值为一，

其中，s为整数的移位值，d为整数的大于1的穿孔间隔值，w和h为元素的索引值，modulo表示取模运算。

4.根据权利要求2所述的卷积神经网络系统，其中，所述卷积神经网络系统还被配置为通过以下步骤微调所述一系列的神经网络层：

对未穿孔的特征图与未穿孔的内核进行卷积，以产生第二卷积输出，

根据将第一卷积输出与第二卷积输出进行比较的误差成本函数来评价第一卷积输出的准确性。

5.根据权利要求4所述的卷积神经网络系统，其中，所述卷积神经网络系统还被配置为：通过根据移位值s的变化对所述至少一个选择进行穿孔来微调所述一系列的神经网络层，以确定最小化误差成本函数的最优移位值。

6.根据权利要求4所述的卷积神经网络系统，其中，所述卷积神经网络系统还被配置为：通过根据穿孔间隔值d的变化对所述至少一个选择进行穿孔来微调所述一系列的神经网络层，以确定最小化误差成本函数的最优穿孔间隔值。

7.根据权利要求4所述的卷积神经网络系统，其中，所述卷积神经网络系统还被配置为：通过经由针对内核的元素计算误差成本函数的梯度并最小化误差成本函数来执行反向传播以调节内核的元素的值，来微调所述一系列的神经网络层。

8.根据权利要求7所述的卷积神经网络系统，其中，所述至少一个选择包括内核，并且执行反向传播的步骤仅调节通过穿孔而未被设置为零的内核的元素的值。

9.根据权利要求1所述的卷积神经网络系统，其中，所述一系列的神经网络层还被配置为：

使用所述至少一个选择计算最大值以及与最大值对应的最大位置，

使用所述至少一个选择的未穿孔的形式计算在最大位置的值。

10.根据权利要求1所述的卷积神经网络系统，其中，循环移位的模式在第三维度中进行移位，使得对特征图和内核中的所述至少一个选择进行穿孔的步骤包括：当((w+h+c)modulo d)-s＝0时，将在所述至少一个选择的索引(w,h,c)的元素的值设置为零，

其中，s为整数的移位值，d为整数的大于1的穿孔间隔值，w、h和c为元素的索引值，modulo表示取模运算。