[发明专利]弹性网络约束自解释稀疏表示分类器的设计方法

摘要

本发明涉及一种弹性网络约束自解释稀疏表示分类器的设计方法的设计方法，含有以下步骤：读取训练样本，将训练样本进行非线性变换，变换到高维的核空间，在高维核空间对每一类训练样本进行学习，找出该类训练样本中每个个体对于构造该类训练样本子空间所做的贡献(即权重)，该类训练样本与权重矩阵的乘积构成词典；通过训练得到的稀疏表达词典获取测试样本在核空间的弹性网络系数编码，最后用每一类的词典及词典所对应的弹性网络稀疏编码拟合测试样本，并计算该拟合误差，拟合误差最小类为测试样本的类别。本发明综合了岭回归和lasso回归的优点，使样本的稀疏编码特征既具有稀疏性，又具有较小的拟合误差，有效降低了分类误差，提升分类器的识别性能。

主权项

一种弹性网络约束自解释稀疏表示分类器的设计方法的设计方法，其特征在于：含有以下步骤：步骤一：设计分类器，其步骤为：(一)读取训练样本，训练样本一共C类，定义X＝[X1,X2,…,Xc,…,XC]∈RD×N表示训练样本，D是人脸特征维度，N是训练样本总的数目，X1,X2,…,Xc,…,XC分别表示第1,2,…,c,…,C类样本，定义N1,N2,…,Nc,…,NC分别表示每类训练样本数目，则N＝N1+N+,…+Nc+…+NC；(二)对训练样本进行二范数归一化，得到归一化的训练样本；(三)依次取出训练样本中的每一类，并对该类样本训练词典，训练词典的过程为：(1)取出第c类样本Xc,将Xc映射到核空间φ(Xc)；(2)根据φ(Xc)训练基于稀疏编码算法的词典Bc，Bc表示第c类样本学习到的词典，该词典的训练需要满足约束条件，所述约束条件的目标函数为：f(Sc)=||φ(Xc)-φ(Xc)WcSc||F2+2αΣn=1N|S·nc||1+β|βc||F2||φ(Xc)W·kc||22≤1,∀k=1,2,...,K---(1)]]>式中，α为稀疏编码算法中稀疏项约束的惩罚系数，β为稀疏编码算法中协同约束的惩罚系数，Sc为第c类核空间训练样本的稀疏表示矩阵，K为学习得到的词典的大小，是一个权重矩阵，其每一列表示核空间样本对构造词典中每个词条的贡献大小，词典Bc＝φ(Xc)Wc；(3)对步骤(2)中约束条件的目标函数进行求解，即对公式(1)求解，其求解过程为：固定Wc，更新Sc；随机产生矩阵Wc，将其带入约束条件的目标函数，这时该目标函数转化成为一个弹性网络正则化最小二乘问题，即目标函数转化为：f(Sc)=||φ(Xc)-φ(Xc)WcSc||F2+2αΣn=1Nc||S·nc||1+β|Sc||F2---(2)]]>上述公式(2)可以简化为：f(Sc)=trace{φ(Xc)Tφ(Xc)-2φ(Xc)Tφ(Xc)WcSc}+trace{ScT(WcTφ(Xc)Tφ(Xc)Wc)Sc}+2αΣn=1Nc||S·nc||1+β||Sc||F2=trace{κ(Xc,Xc)}-2trace{κ(Xc,Xc)WcSc}+trace{ScT(WcTκ(Xc,Xc)Wc)Sc}+2αΣn=1Nc||S·nc||1+β||Sc||F2=trace{κ(Xc,Xc)}-2Σn=1Nc[κ(Xc,Xc)Wc]n·S·nc+Σn=1NS·ncT[WcTκ(Xc,Xc)Wc]S·nc+2αΣk=1KΣn=1Nc|Sknc|+βΣk=1KΣn=1Nc(Sknc)2---(3)]]>进一步把公式(3)分解成一系列子问题求解；针对Sc中的每一个元素进行求解，并剔除掉与求解无关的项，则公式(3)可以简化为：f(Sknc)=-2[κ(Xc,Xc)Wc]nkSknc+(Sknc)2[WcTκ(Xc,Xc)Wc]kk+2Σl=1,l≠kK[WcTκ(Xc,Xc)Wc]lkSknc+2α|Sknc|+β(Sknc)2---(4)]]>根据抛物线理论，很容易求出公式(4)的解；并且由于每个样本点是独立的，每次求解Sc的一行，其求解公式如下：Sk·c=11+βmin{[WcTκ(Xc,Xc)]k·-[ESc‾k]k·,-α}+11+βmax{[WcTκ(Xc,Xc)]k·-[ESc‾k]k·,α}---(5)]]>式中，I表示单位阵；遍历Sc的每一列，完成Sc的一次更新；(4)固定步骤(3)中更新后的Sc，更新Wc，这时约束条件的目标函数转换为一个l2范数约束的最小二乘问题，即目标函数转化为：f(Wc)=||φ(Xc)-φ(Xc)WcSc||F2s.t.||φ(Xc)W·kc||22≤1,∀k=1,2,...,K.---(6)]]>上述公式(6)采用拉格朗日乘子的方法求解，最终求得的解为：W·kc=(S·kc)-[Wc‾kF]·k(Sk·cT-[Wc‾kF]·k)Tκ(Xc,Xc)((Sk·c)T-[Wc‾kF]·k)---(7)]]>式中，F＝ScScT,(5)交替迭代步骤(3)和步骤(4)，最终得到最优稀疏编码词典Bc＝φ(Xc)Wc；(6)按照步骤(1)至(5)获得每类样本的最优稀疏编码词典，将每类样本得到的最优稀疏编码词典放在一起，获得词典B＝[B1,…,Bc,…,BC]；步骤二：对样本进行分类，其步骤为：(1)读取待识别测试样本的图像特征，并对图像特征进行二范数归一化，定义y∈RD×1表示一幅待识别的测试样本图像特征；(2)将测试样本图像特征y映射到核空间φ(y)；(3)使用步骤一中获得的词典B，对核空间φ(y)进行拟合，拟合函数为：f(s)=||φ(y)-Bs||22+2α||s||1+β||s||22---(8)]]>式中s表示核空间中测试样本图像特征y的稀疏编码；(4)对步骤(3)中的拟合函数进行求解，求解结果为：s·k=11+βmin{[WcTκ(Xc,y)]k·-[Wc^Tκ(Xc,Xc)Wcs‾k]k·,-α}+11+βmax{[WcTκ(Xc,y)]k·-[Wc^Tκ(Xc,Xc)Wcs‾k]k·,α}---(9)]]>式中，s＝[s1,…,sc,…,sC]；(5)求核空间φ(y)在每类样本所构成子空间的拟合误差，用r(c)表示，其表达式为：r(c)=||φ(y)-Bcsc||22=||φ(y)-φ(Xc)Wcsc||22---(10)]]>(6)比较核空间φ(y)和每类样本的拟合误差，待识别图像则属于拟合误差最小的那个类别。