[发明专利]基于机器学习的低维特征小样本多分类方法和装置

说明书

本申请提出了一种基于机器学习的低维特征小样本多分类方法，涉及机器学习技术领域，其中，该方法包括：使用三折分类交叉验证方法对样本进行多次划分，得到划分后的样本；对划分后的样本进行特征选择，得到特征选择结果；对特征选择结果进行特征变换，得到变换后的特征；对变换后的特征进行处理，得到最终的分类结果。采用上述方案的本申请可以分析处理有噪特征，对有噪数据鲁棒性较好，同时在小样本数据上有较好的泛化能力，适用于类间特征重叠度高、存在噪声特征、训练数据量少的高难度多分类问题。

技术领域

本申请涉及机器学习技术领域，尤其涉及一种基于机器学习的低维特征小样本多分类方法和装置。

背景技术

随着深度学习的发展，各学科领域开始使用神经网络等深度学习技术解决领域问题并取得了一系列突破性进展。但是，深度神经网络训练需要大量数据，在数据获取难度大、成本高或根本不存在大量数据的问题上，神经网络很难发挥作用。

发明内容

本申请旨在至少在一定程度上解决相关技术中的技术问题之一。

为此，本申请的第一个目的在于提出一种基于机器学习的低维特征小样本多分类方法，解决了类间特征重叠度高、存在噪声特征的小样本低维特征多分类问题，提出的使用机器学习技术进行多维特征筛选融合的分类方法，可以分析处理有噪特征，对有噪数据鲁棒性较好，同时在小样本数据上有较好的泛化能力，适用于类间特征重叠度高、存在噪声特征、训练数据量少的高难度多分类问题。

本申请的第二个目的在于提出一种基于机器学习的低维特征小样本多分类装置。

本申请的第三个目的在于提出一种非临时性计算机可读存储介质。

为达上述目的，本申请第一方面实施例提出了一种基于机器学习的低维特征小样本多分类方法，包括：使用三折分类交叉验证方法对样本进行多次划分，得到划分后的样本；对划分后的样本进行特征选择，得到特征选择结果；对特征选择结果进行特征变换，得到变换后的特征；对变换后的特征进行处理，得到最终的分类结果。

可选地，在本申请的一个实施例中，特征选择，具体过程为：

使用递归特征排除法，每次随机筛除一个特征，选择分类结果最佳的特征筛除方法，然后递归进行下一次特征筛除，直到剩下最后一个特征，统计所有筛除过程中分类结果最佳的筛除方法，作为特征选择结果。

可选地，在本申请的一个实施例中，采用大间隔最近距离LMNN方法进行特征变换，具体包括以下步骤：

使用主成分分析PCA法初始化特征变换矩阵；

使用大间隔最近距离方法LMNN优化特征变换矩阵；

使用特征变换矩阵对特征选择结果进行线性变换，得到变换后的特征。

可选地，在本申请的一个实施例中，使用线性核支持向量机和高斯核支持向量机分别对变换后的特征进行分类训练，得到分类概率，将分类概率相乘并归一化，生成最终的分类结果。

为达上述目的，本申请第二方面实施例提出了一种基于机器学习的低维特征小样本多分类装置，包括划分模块、特征选择模块、特征变换模块、分类器模块，其中，

划分模块，用于使用三折分类交叉验证方法对样本进行多次划分，得到划分后的样本；

特征选择模块，用于对划分后的样本进行特征选择，得到特征选择结果；

特征变换模块，用于对特征选择结果进行特征变换，得到变换后的特征；

分类器模块，用于对变换后的特征进行处理，得到最终的分类结果。

可选地，在本申请的一个实施例中，特征选择模块，具体用于：