[发明专利]一种基于选择性特征连接的卷积神经网络的图像整合方法

说明书

本发明公开了一种基于选择性特征连接的卷积神经网络的图像整合方法，包括：分别求出低层特征和高层特征的平均特征；得到的高层特征的平均特征减去低层特征的平均特征得到关键特征图的得分；对高层特征的平均特征进行缩放处理；进行Softmax归一化处理得到特征Z；对特征Z进行最大值归一处理，得到注意得分。本发明的基于选择性特征连接的卷积神经网络的图像整合方法基于选择性特征连接的高低层特征融合方式能更好的整合特征图信息，更有效的利用已经学习到的特征，且并不会增加参数量。优化了卷积神经网络结构，提升了网络的性能，尤其对于浅层卷积神经网络具有重要意义，让浅层卷积神经网络应用到更多的领域中去。

技术领域

本发明属于卷积神经网络的技术领域，尤其涉及一种基于选择性特征连接的卷积神经网络的图像整合方法。

背景技术

近年来，网络体系结构的研究引起了人们的广泛关注。现如今，许多优秀的网络体系结构相继被提出。GoogLeNet构建了22层卷积神经网络，但它通过使用Inception模型将参数的数量从6000万减少到了400万。VGGNet证明了使用很小的卷积滤波器来增加网络深度可以有效提升模型的效果。但是，增加网络深度不能简单地通过堆叠使得网络层层叠加。由于梯度消失和梯度爆炸的问题，使得深层网络很难训练，在适当的深度模型中添加更多的层可能会导致更高的训练错误。Highway Networks提出了一种采用旁路(bypassingpaths)和门单元(gating units)的有效方法来训练100层以上的端到端网络。旁路被认为是训练这些非常深的网络的关键因素。ResNet进一步证明这个观点，它在网络中加入了恒等映射(identify mappings)作为旁路，通过使用残差块(residual blocks)，ResNet在许多具有挑战性的任务(图像识别、定位以及检测等)中取得了突破性的进展。

一种新颖的可视化技术能够深入了解卷积神经网络中间层的特性和分类器的操作。实际上，不同层次的特征图提取输入图像不同层次的信息。低层特征提取更多的详细信息，而高层特征提取更多的语义信息，较高层的语义信息更接近带有类别标签的最后一层。在许多计算机视觉任务中，组合高层信息和低层信息能够有效的提高实验性能。

现如今，卷积神经网络(Convolutional Neural Network,CNN)作为深度学习的一个重要分支，以它为主要研究方向所需的硬件基础已经逐步成熟，随着硬件技术越来越完善的同时，深度学习的算法实现也越来越多种多样，C语言、C++等底层语言已经无法满足许多深度学习研究需求，应运而生了许多更方便，更灵活的深度学习开发框架，如Tensorflow、Caffe、Theano、Keras和PyTorch等。可视化技术的出现，能够深入分析卷积神经网络的每层特征，高层特征包含更多的语义信息，低层特征包含更多的细节信息，因而，在许多计算机视觉任务中，融合高层信息和低层信息提高实验性能是卷积神经网络的一个重要研究方向。

卷积神经网络中，高层和低层特征融合是一种提高网络性能的有效方式，然而，低层特征存在背景混乱和语义模糊的问题，直接融合高低层特征可能会导致融合后的特征背景混乱和语义模糊，导致网络性能变差。

发明内容

基于以上现有技术的不足，本发明所解决的技术问题在于提供一种基于选择性特征连接的卷积神经网络的图像整合方法，通过选择性特征连接机制对低层特征处理后，再与高层特征融合，提升网络性能。

为了解决上述技术问题，本发明提供一种基于选择性特征连接的卷积神经网络的图像整合方法，包括以下步骤：

步骤1：分别求出低层特征和高层特征的平均特征；

步骤2：将步骤1得到的高层特征的平均特征减去低层特征的平均特征得到关键特征图的得分；

步骤3：对高层特征的平均特征进行缩放处理；

步骤4：将步骤2得到的关键特征图的得分和步骤3缩放处理的结果分别进行Softmax归一化处理得到特征Z；