[发明专利]一种基于特征融合的胶囊网络随机路由方法

说明书

本发明属于深度学习计算机视觉图像处理领域，涉及一种胶囊网络中新的基于特征融合的随机路由算法。该方法通过如下技术方案实现：先从原始特征输入图像中经过卷积操作提取到的各类特征信息中提取出不受空间变换影响的一般性特征；然后从不同的视角点出发，对于一般性特征U_S施加不同的观测动作，得到被观测对象经过视角变换的观测特征U_Osubgt;ij/subgt;,再对其进行特征融合，路由参数的初始化，首先将L层胶囊i的一般性特征U_Ssubgt;i/subgt;的激活概率作为Psubgt;ij/subgt;的先验参数，用来加速迭代过程；其中，Rsubgt;l/subgt;是L层胶囊的集合，Rsubgt;l+1/subgt;是L+1层胶囊的集合，||U_Ssubgt;i/subgt;||是L层胶囊i的一般性特征U_Ssubgt;i/subgt;的激活概率。本发明使用更小的特征提取矩阵在一定程度上压缩了胶囊网络的参数规模。

技术领域：

本发明属于深度学习计算机视觉图像处理领域，涉及一种胶囊网络中新的基于特征融合的随机路由方法，用于胶囊网络的性能调优和加速模型训练。

背景技术：

传统的卷积神经网络(CNN)在探索空间关系中有着明显的局限性，它在分类相同类型但不同角度的图像时的一般方法是训练多个神经元来处理不同的特征方向的特征，并用一个顶层的检测神经元检测分类结果；这种方法倾向于记住数据集，而不是概括解决方案；它需要大量的训练数据，去覆盖不同的变体同时还要避免过拟合；这也就导致CNN在处理将个别特征进行简单的移动，旋转或大小调整的对抗样本时显得非常脆弱。

不同于卷积神经网络，胶囊网络(CapsNet)定义了全新的胶囊结构来提升它对于空间变换的解释能力；空间变换中的同变性是指网络可以对发生空间变换的对象进行检测，比如旋转，平移等，而且网络本身能够理解对象发生的空间变换和空间位置关系；在胶囊网络中，一个胶囊能够捕捉到一系列特征的存在可能性及其变体情况，同时在协议路由中定义仿射变换矩阵来模拟空间变换；因此，胶囊网络不仅能检测到观测对象的特征，还能通过训练来让仿射变换矩阵学习该特征的空间位置信息，检测它的空间变化情况；这样也就能够让胶囊网络用较少的训练数据，更有效地推断出分类对象可能出现的空间变化，赋予它针对空间变换的同变性质；同变性可以很好地帮助胶囊网络“理解”分类对象所具有的空间变化信息，比如位置坐标，旋转角度等等，并且利用这些信息来区分观测空间中视角点的不同。

在胶囊网络中，实现空间变换同变性的主要方法是在协议路由中定义仿射变换矩阵来模拟，推断视角变换，之后根据施加了视角变换后特征的空间位置信息组合得到观测结果；CapsNet一方面利用仿射变换矩阵学习到一种最优的对于可能存在的视角变换均普遍适用的模拟，另一方面是按照特征之间的空间位置关系组合特征；这也让其具有针对输入数据空间变换的鲁棒性；但是这也导致了CapsNet需要定义足够大的仿射变换矩阵来模拟特征的视角点的变换情况，同时针对于出现的所有视角变换，即使是幅度较小的情况，CapsNet都会在仿射矩阵中模拟这种变换，这导致了CapsNet需要大量的训练耗费来寻找最合适的仿射变换矩阵；因此，本发明寻求设计提供一种基于特征融合的胶囊网络随机路由算法，用于胶囊网络的性能调优和加速模型训练；能够在保证观测特征空间位置信息不丢失的前提下，将协议路由算法操作的对象从单一的观测特征拓展到更为复杂的融合特征，丰富了特征组合方式，为协议路由引入一定程度上的空间变换不变性质，优化了寻找最优仿射变换矩阵的过程。

发明内容：

本发明的目的在于克服现有技术存在的上述缺陷，寻求设计提供一种基于特征融合的胶囊网络随机路由方法，将被观测对象的一般性特征与经过视角变换的观测特征进行融合，一般性特征指的是在空间变换中不发生变化的核心特征；在保证被观测对象特征空间位置信息不丢失的前提下，将动态路由算法操作的对象从单一的观测特征拓展到更为复杂的融合特征，同时建立了一种更加高效，丰富的特征组合方式。

为了实现上述目的，本发明涉及的一种基于特征融合的胶囊网络随机路由方法通过如下技术方案实现：

S1、一般性特征提取：