[发明专利]一种基于知识蒸馏的轻量级苹果叶片病害识别方法

说明书

本发明公开了一种基于知识蒸馏的轻量级苹果叶片病害识别方法，属于图像处理技术领域，包括：数据集处理；改进经典SqueezeNet结构；教师网络指导；低精度教师网络进修；苹果叶片病害识别。本发明所采用的主干网络是一种轻量且高效的卷积神经网络模型，并对其结构进行设计和修改，获取更加轻量化的模型；同时利用知识蒸馏方法在显著减少模型参数同时使模型性能保持在较高的水平，将更加有利于模型部署在移动终端等嵌入式资源有限的设备上，有助于实现对苹果叶片病害的实时准确识别；还提出一种“进修”思想，可以有效解决教师网络指导效果差的问题。

技术领域

本发明涉及图像处理技术领域，具体涉及一种基于知识蒸馏的轻量级苹果叶片病害识别方法。

背景技术

苹果作为一些地区的经济收益来源，果园苹果的产量受到病害影响较大，研究快速而且精准地识别病害类别并防治具有重要意义。

目前卷积神经网络在农业工程相关领域已获得广泛应用，在病害识别方面的应用也很广泛。为了使得网络有更好的识别效果，网络层数也在不断增加，从最初只有七层的AlexNet到16层的VGG16和19层的VGG19，再到后来22层的GoogleNet，更有上千层的ResNet和DenseNet等。这些传统的卷积神经网络虽然识别精度高，但是模型存在大量冗余的参数，模型内存占用较大，不适合部署在移动设备端。

深度卷积神经网络的研究重点是提高精度。对于精度在同一水平的网络，更小的网络结构有更多的优势轻量级网络至少有三个优势:分布式训练需要更少的跨服务器通信；从云导出新模型需要更少的带宽；在FPGA和其他内存有限的硬件情况下更容易部署。相比于那些大的卷积神经网络，轻量级神经网络的主要思想在于设计更加高效的网络。从而使得网络参数以及内存减少的同时不会过多损失网络的识别精度。

申请号为CN202011137314.8的中国发明专利申请公开了一种基于SqueezeNet的农作物叶片病害识别方法。其方案是：对原始数据集进行增强和扩充,划分训练集和测试集；从网络规模小型化和计算过程轻量化的角度出发，对经典SqueezeNet结构进行精简与参数修改，获取4种改进后SqueezeNet模型；训练参数设置,多次迭代后得到训练后的模型；将测试集输入训练后的模型,对多种农作物的不同叶片病害进行分类。该发明提出的改进SqueezeNet模型在显著减少参数内存要求和计算量的同时使模型性能保持在一个较高的水平，较好地平衡了这三项指标，有利于将模型部署在移动终端等嵌入式资源受限设备上，有助于实现对农作物病害的实时准确识别。

申请号为CN202010165554.2中国发明专利申请公开了一种基于轻量化深度神经网络的低成本番茄叶片病害识别方法，包括以下步骤：进行番茄叶片图像数据集的收集，将收集的番茄叶片图像数据集采用数据集扩充方法进行扩充得到扩充图像数据库，进行图像数据集的预处理；构建改进的残差神经网络识别模型,将经过预处理的图像数据集，输入到所述改进的残差神经网络识别模型完成模型的训练；将完成训练的模型对待实际待检测图片进行识别。采用改进的残差神经网络识别模型,利用可分离多尺度卷积module1、module2的配合对番茄叶片实现病害识别，拓展了网络宽度，准确率达到较高水平，占用内存较少，可以实现低性能终端上对番茄病害的实时识别，并可以推广到其他类似应用场景的农作物病害识别。

现有的技术虽然也是设计轻量级网络在病虫害识别方面的应用，但传统卷积神经网络识别系统存在的模型参数量大、内存占用大的不足，为此，提出一种基于知识蒸馏的轻量级苹果叶片病害识别方法。

发明内容

本发明所要解决的技术问题在于：如何解决传统卷积神经网络识别系统存在的模型参数量大、内存占用大的不足以及一些在知识蒸馏中教师网络并不能很好地指导学生网络的问题，提供了一种基于知识蒸馏的轻量级苹果叶片病害识别方法，该方法在经典的SqueezeNet网络模型的基础上进行改进并结合知识蒸馏，使模型具有更少的参数和更小的内存却具有较高的识别精度。

本发明是通过以下技术方案解决上述技术问题的，本发明包括以下步骤：