[发明专利]一种基于改进L1正则化和聚类的高维数据特征选择方法

说明书

本发明提供一种基于改进L1正则化和聚类的高维数据特征选择方法，涉及机器学习技术领域。本发明提出了一种混合特征选择算法用于微阵列数据分析，基于K‑Means聚类算法和改进L1正则化的思想，其中K‑Means聚类算法用于数据预处理来删除冗余特征，改进L1正则化方法用于特征选择，提高稳定性和分类准确率。

技术领域

本发明涉及机器学习技术领域，尤其涉及一种基于改进L1正则化和聚类的高维数据特征选择方法。

背景技术

临床上已证实很多疾病同基因之间存在着密切的关系。通常，表达水平与疾病发生高度相关的基因被称为生物标志物，生物标志物的发现对于疾病的早期诊断和预防具有重要意义。为寻找信息最丰富的生物标志物并去除冗余和与目标疾病不相关的生物标志物，微阵列数据分析技术应运而生。

微阵列数据分析技术用于确定生物标志物。众所周知，原始微阵列数据中与疾病相关的特征(基因)的实际数量相对较少，这是由于特征维度高和样本量小所致。这类数据通常包含少量样本和大量与目标疾病无关的特征。另外，微阵列数据具有很高的复杂性，即特征是具有高度冗余性的直接或相互关联的结果，这使得许多应用的机器学习算法显示出低鲁棒性和差的分类精度。因此，在构建模型之前寻找一种合适的方法来减少特征数量，提高模型的分类精度和鲁棒性具有十分重要的意义。

特征选择对于挖掘大规模高维数据集，如微阵列和质谱分析生成的数据集，建立统计模型具有重要意义。在特征选择中，可以识别整个训练数据集中的显着特征。特征选择是在高维，小样本的生物数据中选择生物标记的中的重要一步。常见的特征选择方法可以分为过滤法、包装法和嵌入法，而目前较为先进的特征选择方法是将三种方法进行不同方式的改进和组合而成的混合式特征选择方法。这些方法大多采用叠加两个以上的特征选择方法，用来提高分类准确率。然而在微阵列数据分析中，研究人员往往更加关注特征选择结果的稳定性和特征子集间的非冗余性，即特征子集之间存在的冗余关系较少。

L1正则化是机器学习中的重要手段，通过对代价函数中增加L1范数作为惩罚项来实现稀疏系数矩阵，实现特征选择的目的，而改进的L1正则化方法基于抽样和选择相结合，弱化了特征选择结果对于正则化系数的敏感性，能够显著提升结果稳定性，控制假阳性。聚类是一个将数据集中在某些方面相似的数据成员进行分类组织的过程，K-means聚类算法能够通过基于欧氏距离的计算方法，将样本划分为若干个关联较弱的子集，能够实现特征的聚类和筛选。

发明内容

针对现有技术的不足，本发明提供一种基于改进L1正则化和聚类的高维数据特征选择方法。

本发明的技术方案为，一种基于改进L1正则化和聚类的高维数据特征选择方法，包括以下步骤：

步骤1：根据给定的基因微阵列数据集，利用K-Means聚类算法实现基因微阵列数据特征的聚类；

步骤1.1：以基因微阵列数据样本集D＝{x₁,x₂,…,x_m}为输入，进行K-Means聚类算法，其中聚类簇数量k，x_j代表样本集中第j个特征，m为样本数目；

步骤1.2：从样本集D中随机选择k个样本作为初始均值向量{μ₁,μ₂,…,μ_k}，其中μ_i代表第i个样本对应的均值向量；

步骤1.3：对于样本集D中每一个特征x_j，初始化令j＝1，执行如下操作：

步骤1.3.1：定义存储样本经过聚类后对应的簇

步骤1.3.2：计算特征x_j与每一个均值向量μ_i的距离，并记为d_ji，公式如下所示；