[发明专利]基于决策树混合滤波‑封装的多特征融合方法

说明书

技术领域

本发明涉及信息融合的特征融合领域，尤其涉及一种利用决策树(Decision Tree,简称DT)的混合滤波-封装(Filter-Wrapper)方法用于多特征融合，具体讲,涉及基于决策树混合滤波-封装的多特征融合识别方法。该方法可以被广泛用于基于多特征的模式识别应用，比如人脸识别。

背景技术

信息融合在图像/视频检索或模式识别系统方面有着很大的应用前景。多模态融合策略主要包括特征融合、匹配分数融合、和决策融合三种方式。与匹配分数融合和决策融合相比，特征融合在特征提取与模式识别方面具有明显的优势。从相同的图像或从不同的图像提取多个特征向量，并将他们整合到一起，这不仅增强特征的判别特性，也消除了冗余。

现有的特征融合方法可以分为两类：串行特征融合和并行特征融合。串行融合将多个特征向量按照前后顺序排列成一个新的特征向量，一般用于处理高维特征向量。最近有几种串行融合的方法被提出，例如，典型相关分析(Canonical Correlation Analysis，简称CCA)，本方法用于在特征子空间能够保持原始特征相关性关系的视听特征融合。然而，本方法只适用于特征空间的协方差矩阵非奇异的情况。另一种方法使用偏分最小二乘法(Partial Least Square,简称PLS)进行串行特征融合。虽然利用该方法形成的特征集有更好的判别性，但是它的特征向量变成了更高维的特征，这会导致后期处理的困难。并行特征融合通过将多个特征向量进行组合形成新的特征向量，与串行特征融合相比，其融合后的特征向量的维数保持不变，即与原始特征向量的维数保持一致。已有的并行特征融合方法包括概率融合方法，自适应神经模糊推理系统(Adaptive Network-based Fuzzy Inference System，简称ANFIS)，支持矢量机(Support Vector Machine，简称SVM)，求和规则，Fisher线性判别分析(Fisher Linear Discriminant Analysis,简称FLDA)，径向基函数网络(Radical Basis Function Neural Network,简称RBFNN)等。这些方法只是简单地将多个特征并行连接或集成在一起，由于特征被不均衡地组合在一起，利用这些方法生成的判别系统并不能总是具有更好的性能。

发明内容

为克服现有技术的不足，本发明旨在提出一种新的基于决策树的混合滤波-封装(Filter-Wrapper)特征融合方法，提高精度的同时还降低计算复杂度。为此，本发明采用的技术方案是，基于决策树混合滤波-封装的多特征融合方法，步骤如下：1)构建决策树；2)基于提出的最大可分类标准得分MCC(Maximal Classifiable Criterion)进行最大值局部最优特征选择；3)根据MCC评分进行特征向量的排序；4)全局最优特征选择。

构建决策树具体步骤：在使用主成分分析PCA(Principle Component Analysis)和线性判别分析LDA(Linear Discriminant Analysis)进行特征提取后进行决策树的构建，PCA用于降维，LDA用于在低维空间产生特征向量；具体地，对于n类问题，类内和类间分散矩阵S_w、S_b通过如下方法计算：

其中P_r(C_i)是先验概率，m_i表示第i类样本的均值向量，m₀表示所有样本的均值向量，决策树的高度等于原始特征集的维度N，对于有n个不同的特征集合的模式系统，每个第j级的树节点具有n+2(C_n²+C_n³+...+C_n^N)个子节点，包括在第(j+1)维的n个原始子特征、C_n²+C_n³+...+C_n^N个这些子特征的串行融合，和C_n²+C_n³+...+C_n^N个这些子特征的并行融合，同一级上的树节点具有相同数目的子节点；