[发明专利]一种利用鉴别随机邻域嵌入分析的数据降维方法

摘要

一种利用鉴别随机邻域嵌入分析的数据降维方法，包括以下步骤：(1)待降维数据输入：输入数据矩阵X＝[x1，x2，...，xN]及其类别标签，方差参数λ以及最大迭代次数Mt；(2)对输入的数据进行初始化；(3)利用映射模块进行数据建模：依据子空间的样本相似度和类别标签计算联合概率qij，通过KL散度制定目标代价函数，在此目标函数下，通过经典的共轭梯度法更新变换矩阵At进行迭代求解，其中C(A)针对A的梯度；输出最终投影矩阵：如果步骤B中包含主成分分析的预处理步骤则输出的投影矩阵为AtW，否则输出At。本发明是线性有监督的、可通过类别信息提升算法的可视化性能和判别能力。

主权项

1.一种利用鉴别随机邻域嵌入分析的数据降维方法，其特征在于：包括以下步骤：(1)待降维数据输入：输入数据矩阵X＝[x₁，x₂，...，x_N]及其类别标签，方差参数λ以及最大迭代次数Mt；(2)对输入的数据进行初始化：2.1)根据X计算输入样本间两两欧式距离；2.2)依据原空间的样本相似度和类别标签计算联合概率p_ij：pij=exp(-||xi-xj||2/2λ2)Σck=clexp(-||xk-xl||2/2λ2)ifci=cjexp(-||xi-xj||2/2λ2)Σck≠cmexp(-||xk-xm||2/2λ2)else]]>其中，x₁¹，x₂¹，...，x_N1¹，x₁²，x₂²，...，x_N2²，...，x₁^C，x₂^C，...，x_NC^C为给定的类别标签样本，而x_i^c代表第c类的第i个样本，样本总类别数为C，c_i表示样本x_i的类别标签；2.3)如果原输入数据X维度高于设定值，则对X进行主成分分析，得到投影矩阵W，反之忽略此步骤；2.4)初始化变换矩阵A⁰，其元素满足(0，1)高斯分布；(3)利用映射模块进行数据建模：3.1)依据子空间的样本相似度和类别标签计算联合概率q_ij：qij=(1+||yi-yj||2)-1Σck=cl(1+||yk-yl||2)-1ifci=cj(1+||yi-yj||2)-1Σck≠cm(1+||yk-ym||2)-1else]]>3.2)通过KL散度制定目标代价函数为：minC(A)=Σci=cjpijlogpijqij-Σci≠ckpiklogpikqik]]>3.3)在此目标函数下，通过经典的共轭梯度法更新变换矩阵A^t进行迭代求解，其中C(A)针对A的梯度为：dC(A)d(A)=2A{Σci=cjuij(xi-xj)(xi-xj)T-Σcl≠cmulm(xl-xm)(xl-xm)T}]]>=4A{Σci=cjuijxixiT-Σci=cjuijxixjT+Σcl≠cmulmxlxmT-Σcl≠cmulmxlxmT}]]>=4A{X(Din-Uin+Dou-Uou)XT}]]>其中对角矩阵Dⁱⁿ，D^ou中的元素由相应Uⁱⁿ和U^ou的每列和组成，即且几个辅助变量为：w_ij＝[1+(x_i+x_j)^TA^TA(x_i-x_j)]^-1u_ij＝(p_ij-q_ij)w_ijuijin=uijifci=cj0else]]>uijou=uijifci≠cj0else]]>(4)输出最终投影矩阵：如果步骤B中包含主成分分析的预处理步骤则输出的投影矩阵为A^tW，否则输出A^t。