[发明专利]基于矩阵变量的高斯分布受限玻尔兹曼机的图像识别方法

摘要

本发明公开一种基于高斯分布的受限玻尔兹曼机模型的图像识别方法，所述受限玻尔兹曼机模型用于对二维图像进行特征提取，记为MVGRBM，所述模型能够直接对图像进行建模，而不需要向量化，保留了原始样本的结构信息；由于MVGRBM的可视层和隐藏层服从参数不同的高斯分布，可视层服从高斯分布能够更加精确地拟合输入值为实数的样本，隐藏层服从高斯分布可以使得特征矩阵分布在实数域上，故特征矩阵能够表达更加丰富的信息。采用本发明的技术方案，具有更好的识别准确率。

主权项

一种基于高斯分布的受限玻尔兹曼机模型的图像识别方法，其特征在于，包括以下步骤：步骤1、建立基于高斯分布的矩阵变量受限玻尔兹曼机模型将经典的受限玻尔兹曼机模型扩展到高维空间，给出其能量函数为：E(X，Y)＝∑i∑jxijaij+∑k∑l yklbkl‑∑i∑j∑k∑lwijklxijykl表示一张大小为I×J的原始图像，表示使用此模型提取的图像特征矩阵，其大小为K×L；表示图像的偏移量，表示图像特征矩阵的偏移量，假设图像的每个像素点服从高斯分布，即图像的第(i，j)个像素点的方差为图像特征矩阵的每个元素服从高斯分布，即第(k，l)个元素的方差为原始图像与特征矩阵的连接权重是一个四阶张量此模型的能量函数为：E(X,Y)=ΣiΣj(xij-aij)22σij2+ΣkΣl(ykl-bkl)22γkl2-ΣiΣjΣkΣlwijklxijyklσij2γkl2]]>令wijkl＝ukivlj，用两个矩阵和代替张量则需要求解的参数数量降低为K×I+L×J，将能量函数改写成矩阵的形式：E(X,Y;Θ)=tr((X-B)2./Σ2)+tr((Y-C)2./Γ2)-tr(UTY‾VX‾T)]]>其中，分别计算出图像和特征矩阵的条件概率：步骤2、矩阵变量受限玻尔兹曼机模型求解使用极大似然估计训练MVGRBM模型。其中，为模型需要求解的参数，表示在参数给定的情况下，得到原始图像的概率，要使得到原始图像的概率最大，需要求这个函数的极大值，假设图像集共有N张图片，那么图像集的对数极大似然估计定义为：使用梯度上升法求解参数，首先对参数求偏导，得到参数偏导数的通式：∂l∂θ=-1NΣn=1NΣY∈yp(Y|Xn;Θ)∂E(Xn,Y;Θ)∂θ+1NΣn=1NΣY′∈yp(Y′|Xn(k);Θ)∂E(Xn(k),Y′;Θ)∂θ]]>对于每个参数，其偏导数为：∂l∂C=1NΣn=1NY‾n(0)-1NΣn=1NY‾n(k)]]>∂l∂B=1NΣn=1NX‾n-1NΣn=1NX‾n(k)]]>∂l∂U=1NΣn=1NY‾n(0)VX‾nT-1NΣn=1NY‾n(k)VX‾n(k)T]]>∂l∂V=1NΣn=1NY‾n(0)TUX‾n-1NΣn=1NY‾n(k)TUX‾n(k)]]>其中，Gn=[gij(n)=(xij(n)-bij)2σij3]andX·n=[x·ij(n)=xij(n)σij3],]]>Hn=[hkl(n)=(ykl(n)-ckl)γkl3]andY·n=[y·kl(n)=ykl(n)γkl3].]]>利用上面求得的偏导数得到参数的梯度：ΔU=λΔU+α(∂l∂U-βU);]]>ΔV=λΔV+α(∂l∂V-βV);]]>ΔB=λΔB+α∂l∂B;]]>ΔC=λΔC+α∂l∂C;]]>ΔΣ=λΔΣ+α∂l∂Σ]]>ΔΓ=λΔΓ+α∂l∂Γ;---(20)]]>其中，α为学习率，λ为控制训练收敛速度的动量项，β控制权重参数在迭代更新时梯度太大；输入图像的训练集，利用参数梯度更新各参数，迭代多次，得到使似然函数达到最大的模型。步骤3、基于高斯分布的矩阵变量受限玻尔兹曼机模型进行图像识别。