[发明专利]一种流形学习在故障诊断数据提取中的应用

摘要

本发明公开了一种流形学习在故障诊断数据提取中的应用，该流形学习在故障诊断数据提取中的应用具体步骤如下S1L1范数是指向量中各个元素绝对值之和，也有个美称叫“稀疏规则算子”(Lasso regularization)，虽然L0范数同样可以用于实现稀疏化，提高模型的特征选取能力和可解释性。本设计通过使用基于截断牛顿内点法的LLE来对机械故障信息进行特征提取，以SVM分类方法对故障信息进行识别，通过对Iris和美国西储大学轴承数据集的处理，发现本设计所提出的方法具有良好的特征选取能力，但是该方法也存在着一定的不足，假如真实数据集当中具有多个不连续的子集，并且每个流形之间的结构也不相同，那么该方法就不能对该数据集的低维流形结构进行分析和计算。

主权项

一种流形学习在故障诊断数据提取中的应用，其特征在于：该流形学习在故障诊断数据提取中的应用具体步骤如下：S1：L1范数是指向量中各个元素绝对值之和，也有个美称叫“稀疏规则算子”(Lasso regularization)，虽然L0范数同样可以用于实现稀疏化，提高模型的特征选取能力和可解释性，但是与L0范数相比，L1范数更容易进行优化求解，L1最小化的形式为argmin f(W)+λ||W||1；S2：局部线性嵌入LLE，LLE通过数据重构，获取局部权重矩阵，通过权重矩阵将数据点映射到低维空间当中，保留了数据原有的几何拓扑结构，作为流形学习的经典算法，LLE被广泛应用在多个领域当中，具体步骤如下：X是一组高维数据集，令X＝[x1,x2,……,xN]，X∈RD×N，而低维嵌入坐标为Y,Y＝[y1,y2,……,yN]，Y∈Rd×N，D为高维数据维数，d为低维嵌入空间维数，N为采集样本数量，k为样本的近邻点数量，W为X的重构权重矩阵，W＝[W1,W2,……,WN]，W∈Rd×k，1)计算出高维数据集中点与点之间的相似性，筛选出与点xi(i＝1,2,……,N)相似程度最高的一组点并将其记为近邻点，一般情况下，都使用欧氏距离作为测量的标准，而距离空间中计算两点之间的相似性可以用一下形式来进行表示Hij＝Kii‑2Kij+Kjj而Kij=φ(Xi)·φ(Xj)=Σα=1Hφ(Xαi)φ(Xαj)]]>满足Mercer定理，若φ(Xi)＝Xi，Kij＝Xi·Xj，那么就能证明该距离空间是线性空间，或者可以高维数据集X转换到相对空间之中，然后在相对空间计算相似性，选出近邻点；2)计算样本点局部重建权重矩阵，令Wi＝(ωi1,ωi2,……,ωik)，argmin12||xi-Σj=1kωijxij||22=12||XiWi-xi||22]]>s.t eTWi＝1e＝[1,1,…,1]T∈Rk*1，引入拉格朗日乘子λargmin12||XiWi-xi||22-λ(eTWi-1)]]>对上式求偏导，并将结果设为0以获得函数的极值点X'i(xi‑X'iWi)+λe＝0令求出Pi＝(Xi‑xi)T(Xi‑xi)带入函数，计算最优解Wi=Pi-1eeTPi-1e]]>若k远小于D，Pi有唯一解，权重值Wi稳定，若k大于D，则权重值容易受到干扰，对Pi添加正则项，Pi=Pi+Δ2ktr(Pi)I]]>I是恒等矩阵，tr(Pi)是Pi的迹，Δ是一个小于1的常数，3)谱嵌入法计算出X的低维坐标Y，根据从2)中所得的权重值定义代价函数Y=Σi=1N||yi-Σj=1kωijYij||22]]>s.t1NYTY=I]]>YTe＝0根据矩阵论原理，2)可以转化成Y＝argmintr(YMYT)通过代价函数求出矩阵M＝(I‑W)'(I‑W)，对矩阵M进行特征分解，取出特征向量矩阵底部的d+1个向量，然后去除最小特征值所对应的特征向量；S3：改进的基于TNIPM的局部线性嵌入，通过使用TNIPM对局部权重矩阵进行迭代重构，在求出各点的邻域点集后，通过稀疏正则化给步骤2中添加一个惩罚项min||XiWi-xi||22+λ1||Wi||1]]>s.t.eTWi＝1使用拉格朗日乘数法对以上公式进行约束之后，设置新变量z，并使z＝XiWi‑xi，则凸函数为min||XiWi-xi||22+λ1||Wi||1+λ2(eTWi-1)]]>s.t.z＝XiWi‑xi设Vij是满足zj＝(XiWi‑xi)j的对偶变量，将其与上步中的约束条件结合，并带入到函数当中，获得相应的拉格朗日函数L(Wi,z,Vi)＝zTz+λ1||Wi||1+λ2(eTWi‑1)+ViT(XiWi‑xi‑z)即maxViminWi,zzTz+λ1||Wi||1+λ2(eTWi-1)+ViT(XiWi-xi-z)]]>对上步进行偏微分处理，获得一阶必要条件2z‑Vi＝0|(XiTVi)j|≤(λ1+λ2)j]]>该条件在j≤k的情况下成立，令G(Vi)＝‑0.25ViTVi‑ViTxi，则对偶函数为max G(Vi)＝‑0.25ViTVi‑ViTxis.t.|(XiTVi)j|≤(λ1+λ2)j]]>通过对偶函数解得对偶变量的次优解Vi＝2s(XiWi‑xi)s=min{(λ1+λ2)/|(XiTVi)j|}=min{(λ1+λ2)/|2(XiTXiWi)j-2XiTxi|}]]>求得对偶间隙η为η=||XiWi-xi||22+λ1||Wi||1+λ2(eTWi-1)-G(Vi)]]>记ε为容错率，则当ε满足条件ϵ≥ηG(Vi)]]>时，迭代停止，将上步转换成凸二次规划min||WiXi-xi||22+Σj=1kλ1uij+λ2(eTWi-1)]]>s.t.‑uij≤ωij≤uij根据不等式条件设计一个示性函数I_(ui)I_(ui)=0ui≤0∞ui>0]]>但该示性函数在一般情况下不可微，无法使用牛顿法，所以对示性函数进行变换，求出一个近似示性的函数，则I_(ui)＝‑(1/t)ln(‑ui)已知目标函数不等式条件为‑uij≤ωij≤uij，对该条件使用对数障碍法以获取相对应的对数障碍函数Φ(Wi,ui)=-(1/t)Σj=1kln(-(-uij-ωij))-(1/t)Σj=1kln(-(ωij-uij))=-(1/t)Σj=1kln(uij+ωij)-(1/t)Σj=1kln(uij-ωij)]]>其中t＞0，且t是一个近似于精度的系数，设smin为s的最小值，smin∈(0,1]，μ为常数系数，μ＞1，t的更新如下t=max{μmin{2kη,t},t}s≥smints<smin]]>将对数障碍函数作为约束条件代入到目标函数当中Ft(Wi,ui)=t||WiXi-xi||22+tΣj=1kλ1uij-Σj=1kln(uij+ωij)-Σj=1kln(uij-ωij)+λ2(eTWi-1)]]>对目标函数进行偏微分处理，获得对应的一阶必要条件和二阶必要条件，一阶必要条件g1=▿Wi=2tXiT(XiWi-xi)+tλ2e-2ωi1(ui12-ωi12)...2ωik(uik2-ωik2)]]>g2=▿ui=tλ1e-2ui1(ui12-ωi12)...2uik(uik2-ωik2)]]>二阶必要条件为H=t▿2||XiWi-xi||22+▿2Φ(Wi,ui)=2tXiTXi+D1D2D2D1]]>D1=diag2(ui12+ωi12)(ui12-ωi12)2...2(uik2+ωik2)(uik2-ωik2)2]]>D2=diag-4ui1ωi1(ui12-ωi12)2...-4uikωik(uik2-ωik2)2]]>记ΔWi、Δui分别为的Wi、Δui方向向量，则所求解的牛顿方程为HΔWiΔui=-g=-g1g2]]>使用SSOR方法对矩阵H进行分裂，H＝C‑LU‑LUTLU为严格下三角矩阵，C是对角矩阵，设L=(C-δlu)C-12δ(2-δ)0≤δ≤2]]>则与处理矩阵为P=LTL=(C-δlu)C-1(C-δlu)Tδ(2-δ)0≤δ≤2]]>δ一般为1，则将预处理矩阵带入上步中PHΔf＝‑Pg令p＝PH，c＝‑PgpΔf＝c迭代出Wi和ui的大小，将所得的Wi、ui再次进行迭代，直至满足条件或达到最大迭代次数，迭代完成后将权重Wi输出，构造权重矩阵W，然后再对权重重构矩阵W进行谱嵌入处理。