[发明专利]一种基于参考点非支配排序遗传算法的多目标特征选择方法及系统

说明书

本发明公开了一种基于参考点非支配排序遗传算法的多目标特征选择方法及系统，涉及数据挖掘和机器学习领域，该方法是一种基于包装器结构的五个目标优化算法，旨在最大程度地提高分类器的分类精度，最大程度地减少分类特征数量，以及优化三个基于熵的相关性、冗余度和互补性度量。五个目标的优化扩大了搜索空间，从而使该方法能够生成大量的帕累托有效解。该方法在保证分类性能的同时，能够针对不同基数级别识别出所有具有同等信息的特征子集。并搭建了一个计算系统来执行该方法。

技术领域

本发明涉及数据挖掘和机器学习技术领域，具体涉及一种基于参考点非支配排序遗传算法的多目标特征选择方法及系统。

背景技术

特征选择，也称特征子集选择，是数字图像处理中数据预处理的重要组成部分。近年来在机器学习和数据挖掘也有着重要的作用。特征选择主要应用于数字图像处理中数据预处理部分，图像中经过特征提取得到的一些特征，例如颜色特征、纹理特征、形状特征或者通过专业知识得到的一些图像特征等等，存在一些冗余的特征，特征选择通过去除这些冗余的特征，降低数据特征的维度，从而降低图像处理后续操作的复杂度、提高系统整体的性能。特征选择在图像处理的诸多领域例如图像识别、图像分类、图像分割等等有着重要的作用。

特征选择的新兴趋势是开发两目标优化算法，这类算法分析了特征数量最小化和分类性能的最大化的折衷，能够得到一组帕累托有效子集，每个子集具有不同的基数和相应的分类性能。近年来这类算法被广泛应用。

本申请发明人在实施本发明的过程中，发现现有技术的方法，至少存在如下技术问题：

但是，基于特征数量和分类性能的两目标特征选择算法忽略了对于给定的基数可能存在具有相似信息内容的多个子集这一事实，因此导致特征选择效果不佳。

发明内容

本发明引入一种多目标特征选择方法来解决该问题。该方法是一种基于包装器结构的五个目标优化算法，旨在最大程度地提高分类器的分类精度，最大程度地减少分类特征数量，以及优化三个基于熵的相关性、冗余度和互补性度量。五个目标的优化扩大了搜索空间，从而使该方法能够生成大量的帕累托有效解，改善特征选择效果。

为了解决上述技术问题，本发明一方面提供了一种基于参考点非支配排序遗传算法的多目标特征选择方法，包括：

S1：对于输入数据集，采用全局优化算法来寻找一组帕累托子集，其中，一组帕累托子集为特征选择的一组最优解，为一组特征子集，全局优化算法为参考点非支配排序遗传算法，以相关性、互补性、分类精度、冗余度和特征数量为优化目标，使得相关性、互补性和分类精度最大，并使得冗余度和特征数量最小；

S2：计算帕累托子集的最佳分类精度值，并基于最佳精度值和预设参数δ找出δ准等信息子集，根据找出的δ准等信息子集消除劣等子集，得到最终的目标δ准等信息子集，其中，δ准等信息子集用以表示与步骤S1中得到的特征子集的一个分类性能相近的子集，目标δ准等信息子集包含选择出的目标特征。

在一种实施方式中，S1具体包括：

S1.1：将输入数据集分划为训练集和测试集；

S1.2：采用参考点非支配排序遗传算法初始化种群；

S1.3：在算法的每次迭代中计算每个个体的相关性、互补性、分类精度、冗余度和特征数量五个目标值，并利用这些目标值对种群进行更新，其中，每个个体对应一个特征；

S1.4：算法结束迭代后得到一组关于相关性、互补性和分类精度、冗余度和特征数量五个目标值的一组帕累托有效解A，将其作为特征子集。

在一种实施方式中，S2具体包括：

S2.1：计算S1中得到的一组特征子集的最佳分类精度值，最佳分类精度值为分类精度的最大值；