[发明专利]基于中间层特征提取增强的知识蒸馏实现图像分类的方法

权利要求书

1.一种基于中间层特征提取增强的知识蒸馏实现图像分类的方法，其特征在于，所述方法包括以下步骤：

获取待分类图像；

将所述待分类图像导入预先训练好的教师-学生网络中，得到相应的分类结果；其中，所述预先训练好的教师-学生网络是基于历史图像分别输入教师模型和学生模型中，并采用预设的跨层非局部模块分别提取学生模型和教师模型的多尺度像素间关系，且待计算出教师模型和学生模型间的多尺度像素间关系蒸馏损失之后，将蒸馏损失加入学生模型的损失函数中，进一步根据损失函数反向传播更新学生模型参数直至学生模型收敛，将收敛后的学生模型作为优化模型输出进行训练得到的；

所述跨层非局部模块采用如下公式进行计算：

R＝(X^q,X^r1,…,X^rn)＝X^q+∑Z^ri

其中，X^q为查询层特征；X^ri为响应层i特征；Z^ri为响应层i与查询层的像素间关系，表示为为卷积运算；θ(·),和g(·)均为可学习嵌入式函数，使用1×1卷积实现；θ(X^q)，gi(X^ri)为可学习嵌入函数对输入的特征图做预处理，计算单个像素的表示；f(·,·为二维函数，使用点积实现；为计算对应位置像素间的相关程度；

所述跨层非局部模块提取学生模型或教师模型的多尺度像素间关系的具体步骤如下：

将历史图像作为学生模型或教师模型的输入，并输入相应模型的第一层；

若第一层是选定的响应层，将第一层的输出特征作为响应层输入其后的跨层非局部模块，并将跨层非局部模块的输出特征输入其后的第二层；或若第一层是选定的查询层，将第一层的输出特征作为查询层输入其后的跨层非局部模块；

用第二层更新第一层；

若第一层是最后一层，将最后一层的输出特征作为预测结果并输出。

2.如权利要求1所述的基于中间层特征提取增强的知识蒸馏实现图像分类的方法，其特征在于，计算教师模型和学生模型间的多尺度像素间关系蒸馏损失时，采用L2范式损失的形式如下：

L_蒸馏＝L₂(R^T,M(R^S))

其中，M(R^S)是可学习的匹配函数，使教师模型和学生模型的多尺度关系特征图在维度和尺寸上匹配；R^S首先通过一个卷积层c(·)，然后再通过一个上采样函数h(·)进行匹配，即M(R^S)＝h(c(R^S))。

3.如权利要求1所述的基于中间层特征提取增强的知识蒸馏实现图像分类的方法，其特征在于，将蒸馏损失加入到学生模型的损失函数中时，采用如下公式进行运算：

L_总＝L_分类+αL_蒸馏

其中，L_总为总损失函数；L_分类为分类损失函数；L_蒸馏为蒸馏损失函数；α为蒸馏损失函数在总损失函数中占的比例系数。

4.如权利要求3所述的基于中间层特征提取增强的知识蒸馏实现图像分类的方法，其特征在于，所述分类损失函数采用交叉熵形式计算，具体公式如下：

其中，y为图像的真实分类标签，为学生模型输出的预测结果。