[发明专利]一种基于多重局部约束的图优化维数约简方法

说明书

本发明提供一种基于多重局部约束的图优化维数约简方法(DRMLCGO)。与现有的图嵌入维数约简方法相比，该方法具有如下优点：1)为了避免基于k近邻或ε球准则构图策略中的参数选择问题，本发明采用线性重构的思想，即利用高维数据间的重构系数自适应地构建图；2)本发明将图学习与投影矩阵学习整合到统一框架，在维数约简的过程中自动地对图结构进行更新和优化，从而解决了图构建与维数约简分离的问题；3)为了使所学的图能够全面和准确地刻画高维数据的本征结构，本发明充分利用多重局部约束，并自适应对其加权融合；4)本发明提出一种有效的迭代算法求解目标函数。在三个标准人脸图像数据库上验证了DRMLCGO的方法的有效性。

技术领域

本发明涉及模式识别与机器学习技术领域，具体涉及一种基于多重局部约束的图优化维数约简方法。

背景技术

随着科学技术发展，数据获取和存储技术得到了快速发展。在科学研究领域，研究人员越来越容易采集到来自各行各业的大量数据，如生物数据、航天数据、网页文本、人脸图像以及高清晰医学图像等。这些数据作为信息的载体虽然蕴藏着大量有价值的信息，但往往具有高维、繁杂及非线性等特点，这就导致数据的本质特征被掩盖，难以进行直观理解与分析，并给后续的数据处理工作带来很多困难。因此，如何挖掘出隐藏在海量高维数据背后的符合实际需求的有价值信息，探索高维数据中潜在的数据结构和内在分布规律，成为模式识别、机器学习及计算机视觉等诸多研究领域的极大挑战。

高维数据不但会带来高额的计算和存储代价，产生数据冗余，增加数据分析的计算复杂度，还会导致严重的“维数灾难”(Curse of Dimensionality)等问题。“维数灾难”就是在缺乏简化数据的前提下，如果要在给定的精度下对数据进行有效地分析，所需要的样本数会随着数据维数的增加需呈指数增长。另外，高维数据处理中还存在诸多其它问题，如高维空间中测度的“集中现象”(Concentration Phenomenon)，即样本维数的增加会削弱数据样本之间距离测度的可区分性。该现象会导致如最近邻分类等基于距离测度的算法很难在高维空间获得较好的性能。因此，若要从高维数据中获取其本质的结构和内在的特征，就需要对高维数据进行预先分析与处理，提取有用信息的同时舍弃不相关的冗余信息。因此，维数约简成为高维数据分析中至关重要的步骤，也是处理高维数据、解决维数灾难较为直接有效的途径。维数约简，亦称数据降维，是指通过线性或非线性映射将高维空间中的样本投影到一个低维子空间，以便获得蕴藏在高维数据中有意义的低维表示。维数约简不仅能够减少数据冗余，节省存储空间，而且能够提取有用的数据信息，便于后续的分类和识别处理，同时，还可以实现高维数据可视化，即将数据从高维降至低维(如2维或3维)，使人们能够更直观地感知和理解这些高维数据，从而发掘隐藏在高维空间中的高维数据的本征几何结构及内在联系。为此，维数约简技术成为模式识别和机器学习等领域重要的研究问题之一。

近年来，维数约简因其重要性已被成功应用于许多领域，如机器学习、计算机视觉、模式识别、图像检索以及文本分类等。研究者通常将维数约简方法分为线性和非线性两大类。早在20世纪初就被提出的主成分分析(Principal Component Analysis，PCA)和线性判别分析(Linear Discriminant Analysis，LDA)是两个典型的线性维数约简方法。除此之外，线性维数约简方法还包括多维尺度变换(Multidimensional Scaling，MDS)、独立成分分析(Independent Component Analysis，ICA)、最大边缘准则(Maximum MarginCriterion，MMC)等。这些方法简单有效且易计算，在众多科学研究领域中得到了广泛的应用。