[发明专利]一种在高维数据中快速识别特征组合的方法及系统

摘要

本发明公开了一种在高维数据中快速识别特征组合的方法及系统。该方法及系统一方面最小化由留一法度量的交叉验证分类误差、同时最小化选择特征的个数，最后建模实现高维数据中特征组合的快速识别，为高维数据的统计分析提供了一个快速的解决办法，在数据挖掘、机器学习、人工智能、生物医学等领域有广泛的应用前景。

主权项

一种在高维数据中快速识别特征组合的方法，包括以下步骤：1)获取样本数据；2)根据获取的样本数据，构建特征组合识别的最优化模型，所述模型的优化目标为分类精度最大，同时选择到特征的个数最少，所述特征组合识别的最优化模型为混合整数规划模型，具体为：minxj,γiΣi=1mγi+λΣj=1nxj]]>s.t.Σj=1n|(sij-Σt≠i,st∈Iastj)|xj+ϵ-γi<Σj=1n|(sij-Σst∉Iastj)|xj,forSi∈Ia]]>xj∈{0,1}γi≥0a∈{1,2}其中：模型中的元素sij代表了第i个样本中第j个特征的浓度；Si代表样本i，i＝1,2,…,m；j＝1,2,…,n，整数变量xj为第j个特征是否被选到最优的特征组合中，如果xj＝1，则特征j被选入，否则将不被选入；ε为常数，ε取值为正的充分小的数，其物理意义是精度，a是类别的标签，Ia代表类别a中所有样本的集合，γi是模型引入的松弛变量，用来表示对样本i的分类误差的允许程度，目标来使得最优的特征组合中特征的个数最少，代表总的分类误差，这个作为目标函数，需要在最优化的过程中取得最小值，从而得到的最优解对样本具有最好的分类精度；3)逐个分析单个特征的预测能力，并根据单个特征的预测能力对所有特征进行排序；4)将具有预测能力的特征输入到特征组合识别的最优化模型，固定特征个数为k来求解模型，得到特征数为k的最优的特征组合，将k从1逐渐增长，同时记录分类精度的变化，当分类精度得到最大的时候，得到模型输出的最优的特征组合。