[发明专利]一种基于知识蒸馏网络检测眼底图像类型的方法及装置

说明书

本发明公开了一种基于知识蒸馏网络检测眼底图像类型的方法及装置，方法包括步骤：在教师网络和学生网络之间设置若干个教师辅助网络，得到基础网络架构；在所述基础网络架构中的每一个网络的最后特征输出层中增设稠密传输模块，在所述基础网络构架中的任意两个相邻网络之间设置对抗学习网络的判别器，构建知识蒸馏网络模型模型；将已标记眼底图像输入到所述知识蒸馏网络模型中进行训练，得到训练后知识蒸馏网络模型；将待测眼底图像输入到所述训练后知识蒸馏网络模型，输出待测眼底图像的类型。本发明方法能够有效地避免蒸馏过程中的特征信息损失，使得学生网络能以较小的尺寸实现对眼底图像类型较高的预测精度。

技术领域

本发明涉及深度学习算法应用领域，特别涉及一种基于知识蒸馏网络检测眼底图像类型的方法及装置。

背景技术

早产儿视网膜病变(ROP)是低出生体重儿常见的视网膜疾病，也是儿童失明的主要原因。AP-ROP是一种特殊的ROP，其特征是视网膜血管发育中的血管增生性疾病，如果干预不及时，可能会导致不可逆转的视觉损害。因此，AP-ROP也被视为最严重的ROP类型之一，对其进行准确、客观、高效的鉴别已成为学术界、医疗界共同关注的课题。

准确的鉴别有助于临床医生做出相应的科学判断，选择合适的诊断和治疗方法。特别地，AP-ROP的发病率相对较低，许多眼科医生在区分常规ROP和AP-ROP方面经验不足。常规ROP、AP-ROP和正常眼底图像的示意图如图1所示。可以观察到，常规ROP与AP-ROP在外观和特征上极为相似，这是眼科医师准确、快速鉴别的一大障碍。因此，计算机辅助诊断对于帮助临床医生对常规ROP和AP-ROP进行客观评估显得尤为重要。

因卷积神经网络能够利用其强大的特征提取能力表征图像所具的显著特征，已被广泛应用于医学图像处理。然而，由于卷积神经网络一般具有较多的网络参数，使得网络模型的复杂度较高，对于嵌入式设备的算法移植造成很大的挑战，导致对ROP和AP-ROP的图像识别效率较低。

因此，现有技术还有待于改进和发展。

发明内容

本发明要解决的技术问题在于，针对现有技术的不足，提供一种基于知识蒸馏网络检测眼底图像类型的方法及装置，旨在解决现有深度学习方法对眼底图像的类别识别准确率较低的问题。

为了解决上述技术问题，本发明所采用的技术方案如下：

一种基于知识蒸馏网络检测眼底图像类型的方法，其中，包括步骤：

在教师网络和学生网络之间设置若干个教师辅助网络，得到基础网络架构；

在所述基础网络架构中的每一个网络的最后特征输出层中增设稠密传输模块，在所述基础网络构架中的任意两个相邻网络之间设置对抗学习网络的判别器，构建知识蒸馏网络模型模型；

将已标记眼底图像输入到所述知识蒸馏网络模型中进行训练，得到训练后知识蒸馏网络模型，所述已标记眼底图像包括正常眼底图像、ROP眼底图像以及AP-ROP眼底图像；

将待测眼底图像输入到所述训练后知识蒸馏网络模型，输出待测眼底图像的类型。

所述基于知识蒸馏网络检测眼底图像类型的方法，其中，所述教师网络为ResNet-34网络、ResNet-50网络或ResNet-101中的一种，所述学生网络为具有6个残差层的网络结构，所述教师辅助网络为具有18、14、10、8个残差层的网络结构中的一种或多种。

所述基于知识蒸馏网络检测眼底图像类型的方法，其中，所述稠密传输模块用于将教师网络和学生网络的最后输出以KL散度作为损失函数，约束学生网络的输出并蒸馏教师网络学习到的特征。

所述基于知识蒸馏网络检测眼底图像类型的方法，其中，定义教师网络和学生网络的最后输出为T_o和S_o，则利用KL散度计算KD损失可表达为：其中，是一个超参数，控制教师网络和学生网络的软信号输出。