[发明专利]一种基于神经网络架构搜索的缺陷分类方法

说明书

针对传统深度卷积神经网络搭建依赖大量专家经验的问题，本发明公开了一种用于缺陷识别的神经网络架构搜索方法，以减少人工搭建网络的过程。其方法包括三个方面，首先为构建搜索空间，方法基于MobileNetV2为搜索空间，但是做出了如下改变：构建三种不同扩增倍数的深度可分离卷积，并将激活函数换为LeakyRelu。其次为搜索方法：将不同通道数与不同堆叠层数的block放入4个阶段中互相选择，从而得到每个block的输入与输出信息。接着，松弛block并定义损失函数，以梯度下降的方式得到在不同通道数中block的最佳堆叠方式。最后，采用一种固定连接并以通道数递增的方式得到最终的网络结构。

技术领域

本发明涉及缺陷图像处理技术，着重于印制电路板缺陷分类的神经网络架构搜索方法。

背景技术

在表面缺陷的研究中，大量的算法用来检测和分类表面缺陷。基于传统的方法如随机森林及形态学图像分割算法，可以对缺陷图像进行分类与分割，但是传统方法对特征识别不明显，导致精准率较低。

伴随着目前深度学习的火热，大量网络架构随之而生，如ResNet、Inception、MobileNet 等，这些方法同样也适用在缺陷分类的任务中，但是构建属于特定缺陷数据集的网络尤其困难，依赖于大量的人工搭建经验。在面对一个全新数据集时，又需要重新设计网络结构，这就会花费大量的人力物力。

随着神经网络架构搜索的出现，它通过自动搜索满足不同任务需求的网络模型，所搜出的网络模型已经逐渐在性能上超越了人工设计的网络结构，能够适用在检测、分类、分割的任务中。通常神经网络架构搜索分为三个维度：搜索空间、搜索策略和评估方法。

搜索空间定义了哪些结构可以被搜索，主流的搜索空间是人工设计的块或者单元，搜索策略则指的是如何去搜索整个搜索空间，评估方法是为了评判搜索出来的模型是否能够达到预想的高性能表现。而前沿的神经网络架构搜索方法都应用在较大的公用数据集上，如果能够将此架构搜索方法应用在实际工业缺陷上，将会减少大量的人力物力。

发明内容

本发明所要解决的技术问题：在面对一个全新数据集时，需花费大量的专家经验来构建深度卷积神经网络，本发明所提出的方法能够减少人为参与，让算法选择一个准确率相对较高的网络模型。

技术方案：如图1所示，整个算法流程为：首先，获取公开印制电路板缺陷数据集。其次设计一种轻量级的神经网络架构搜索算法，其包括三个方面，设计搜索空间，搜索策略，训练方法与连接最终的结构。

搜索空间：基于MobileNetV2的网络具有参数量低，准确率较高的特点，本发明采用基于MobileNetV2为搜索空间。但是将MobileNetV2的结构做出了改变，本发明采取定义block 结构。如图2所示，首先，图像输入，进入头层，头层的选择有三种形式，k代表卷积核的尺寸，t代表通道数扩增的倍数。头层的选择有三种：卷积核为3，扩增倍数为1的深度可分离卷积；卷积核为3，扩增倍数为3的深度可分离卷积；卷积核为3，扩增倍数为6的深度可分离卷积。其次，在堆叠层中，采用与头层相同的结构，不同的是，堆叠层可以堆叠任意三种深度可分离卷积。接着，激活函数将原始MobileNetV2中的Relu改为LeakyRelu,获取更多的正负信息。最后，采取残差映射的方式得到输出。

搜索方法：本发明采取定义4个阶段，如图3所示，将定义后的block放入不同通道数的阶段中，并且在每个阶段设置堆叠层l。其次，设置每个block选择的规则：让本阶段的block 选择相邻阶段的block。最后，每个block就会有不同的输入信息与输出信息。

此外，搜索算法包括强化学习、进化算法、贝叶斯优化和梯度算法。本方法采用基于梯度的搜索算法，设定损失函数，再将每个block进行松弛。