[发明专利]一种基于节点抑制的卷积神经网络剪枝方法

权利要求书

1.一种基于节点抑制的卷积神经网络剪枝方法，其特征在于包括如下步骤：

步骤1：读取网络权重文件和网络配置文件，得到初始网络结构N₀＝{L_i|i＝1,2,3,…,n₀}，其中L_i＝{c_ij|j＝1,2,3,…m}表示网络中第i层，n₀表示集合N₀中的网络层数，c_ij表示L_i层中的第j个节点，m表示L_i层中的节点数量；

步骤2：读入目标样本图像Sample；

步骤3：逐层逐点地对神经网络中的网络节点进行节点抑制，计算节点失活对网络损失函数的影响，具体如下：

步骤3.1：复制初始网络结构N₀，得新的网络结构N₁＝{L_i|i＝1,2,3,…,n₁}，其中n₁表示集合N₁中的网络层数；

步骤3.2：从步骤3.1的网络结构集合N₁中的最后一层L_n1选取一个节点，并抑制神经网络N₀中对应的节点c_n1j，并将图像Sample输入网络结构N₀中进行前向传播，根据损失函数得到该节点的损失偏差I_n1j；

步骤3.3：重新激活N₀中最后一层的节点c_n1j，并将该对应节点从N₁中剔除；

步骤3.4：重复步骤3.2到3.3直至N₁中L_n1层无网络节点，则删除第n₁层，得该层的网络损失偏差IL_n1＝{I_n1j|j＝1,2,3,…,m}；

步骤3.5：重复步骤3.2到3.3直至N₁中无网络层，得神经网络中所有节点的损失偏差集合IN＝{I_ij|i＝1,2,3,…,n₀，j＝1,2,3,…,m}；

步骤4：计算步骤3.5所得的损失偏差集合IN中所有元素的平均值，得节点偏差均值I_avg；

步骤5：对初始网络结构N₀中满足式(1)条件的节点逐个进行剪枝，得剪枝后的网络结构N_after；

步骤6：通过样本数据集对步骤5的网络结构N_after进行再训练，得到最后的网络N_final。