[发明专利]一种基于判别矩阵变量受限玻尔兹曼机的图像识别方法

说明书

本发明公开一种基于判别式矩阵变量受限玻尔兹曼机模型的图像识别方法，采用基于判别的矩阵变量受限玻尔兹曼机用于二维图像分类，记为DisMVRBM，此模型能够直接对图像进行建模，而不需要向量化，保留了原始样本的结构信息。与MVRBM相比，本模型增加了标签层，意味着在提取特征的过程中融入了标签信息，使得提取的特征具有判别性，会提升分类性能；并且由于增加了标签层本模型可以直接当作一个独立的分类器，不用再链接其他的分类器，省去了对其他分类器的微调训练阶段。

技术领域

本发明属于模式识别技术领域，尤其涉及一种基于判别式矩阵变量受限玻尔兹曼机模型的图像识别方法。

背景技术

人工神经网络(Artificial Neural Network，ANN)是一种通过模仿生物神经网络的结构和功能而建立起来的计算模型，典型的ANN由大量的简单处理节点(人工神经元)构成，这些节点是具有层次结构的，并且以指定方式互相关联。一些节点对外部可见而另外一些对外部隐藏，两个节点间的关联即权重。训练一个ANN模型即是要根据训练数据计算权重系数。

受限波尔兹曼机(Restricted Boltzmann Machine，RBM)是基于统计力学的随机神经网络，能够拟合任意离散分布，常被用于深度信念网络(Deep Belief Nets，DBN)的多层结构的构建，以及不同的机器学习问题，如数据降维、人脸识别、协同过滤、重构、降噪等。RBM的输入层和隐层都是向量形式，当数据为高阶张量时，通常需要进行向量化处理，而高阶张量数据向量化会因破坏数据的空间结构而丢失有用的空间信息。为了不破坏数据的空间结构及其内在关联信息，Tu等人提出了张量变量受限玻尔兹曼机，但是这个模型的隐层依然是向量形式。齐光磊等人将RBM拓展为矩阵变量受限玻尔兹曼机(MVRBM)，该模型采用输入层与隐含层均为矩阵的表达形式。虽然这种矩阵形式能够保持数据的空间结构信息，但与RBM类似，也是无监督训练的，在提取特征时没有利用标签信息，因而提取到的特征不具有强判别性。

McCallum指出特征学习过程中利用标签信息是有益的。为了提取到有判别性的特征，很多人开始在训练过程中使用标签信息。Yang等人研究了对多模态数据和类别信息共同建模的方法并用于视频分类。Schmah提出了RBM的判别式训练方法，对每类数据训练一个RBM，这种方法和贝叶斯分类器相似。Hugo等人提出分类受限玻尔兹曼机学习算法。此外，受到具有判别性的监督子空间模型的启发，Guo等人将监督子空间约束增加到RBM隐层，上述模型都是面向向量变量的模型，即输入都是向量数据，对于图像/视频等高阶信号需要先将高维数据拉伸为向量，这种处理数据的方式必然会损失高维数据的空间结构信息。

本发明针对MVRBM不能提取具有判别性特征的问题改进了MVRBM，即在训练时充分利用数据的标签信息，使提取到的特征具有判别性；并且所提模型可直接用于分类而不需要额外的其他分类器执行分类任务。

发明内容

发明提供一种基于判别式矩阵变量受限玻尔兹曼机模型的图像识别方法，采用基于判别的矩阵变量受限玻尔兹曼机用于二维图像分类提出了一种基于判别的矩阵变量受限玻尔兹曼机用于二维图像分类，记为DisMVRBM。此模型能够直接对图像进行建模，而不需要向量化，保留了原始样本的结构信息。与MVRBM相比，本模型增加了标签层，意味着在提取特征的过程中融入了标签信息，使得提取的特征具有判别性，会提升分类性能；并且由于增加了标签层本模型可以直接当作一个独立的分类器，不用再链接其他的分类器，省去了对其他分类器的微调训练阶段。

附图说明

图1.本发明提出的DisMVRBM模型示意图。

具体实施方式

本发明提供一种基于判别式矩阵变量受限玻尔兹曼机模型的图像识别方法，包括以下步骤：

步骤1、判别式矩阵变量受限玻尔兹曼机模型

矩阵变量受限玻尔兹曼机模型的能量函数定义为：