[发明专利]空间密度相似性度量K‑means聚类方法

说明书

技术领域

本发明涉及机器学习领域，尤其是使用聚类分析方法将任意形状分布的复杂数据集分成特定类别的一种有效的聚类方法，具体是一种空间密度相似性度量K-means聚类方法。

背景技术

在传统及改进K-means方法中通常采用欧氏距离直接表达样本间的相似性距离，但欧氏距离往往不能较为准确地表达各种流形数据点间的相似性，本发明提出的是通过采用空间密度的相似性距离弥补这一缺陷，并加上新的K-means方法类中心的迭代模型，能反映各种数据集的真实分布规律，得到准确稳定的聚类效果。

K-means方法是应用最广泛的聚类方法之一，传统的K-means方法存在初始聚类中心不稳定，聚类效果和迭代次数对初始聚类中心过于依赖，易陷入局部最优等问题。为改善以上缺陷，国内外学者从不同角度对K-means方法提出了一系列的优化方法。如Huang等提出一种基于自动计算权值的K-means方法，改进聚类中变量的选择问题。Dhillon等为提高方法性能调整K-means迭代过程中计算聚类中心的方法。Redmond等将k-d树和Katsavounidis提出的方法相结合，在基于密度选择初始聚类中心时能尽可能分散选择，使初始聚类中心的选择更加合理化。Sarafis将遗传方法应用在K-means的目标函数构建中，并在此基础上提出新的聚类方法RBCGA，取得较好效果。

在传统和改进K-means方法中，通常采用欧氏距离计算在m维空间中两个样本之间的距离。然而，在任意形状分布的复杂数据集上，K-means方法通过欧式距离来衡量样本间的相似性距离，往往达不到预期效果。如图1中，样本集中分布的A、B、C三点，欧式距离计算可得A点和C点的距离大于A点和B点的距离，而实际期望是通过某种距离计算得到，A点和C点的距离小于A点和B点的距离。

同时在迭代过程中，K-means新一轮聚类中心的产生规则取所有本簇样本中每一维的平均值。而在像图1中类似的非簇型数据集中使用平均值选择聚类中心时，聚类中心极有可能出现在本簇区域以外，甚至存在和另一簇中心相重合的情况。

发明内容

针对背景技术中存在的两个显著问题，本发明改进单一的欧氏距离测量方法和K-means的迭代规则，设计出更加有效合理的距离测量方法和迭代规则，使分类效果明显改善。

本发明公开了一种空间密度相似性度量K-means聚类方法，该方法包括以下步骤：

(1)对数据集样本D进行归一化的数据预处理；

(2)初始化聚类中心：

1)根据样本间的空间密度的相似性距离得出样本空间Space和每一个样本的密集度Density(x_i)；

2)选择最大密集度样本作为初始聚类中心的第一个聚类中心；

3)选择其次大的密集度样本，并且此样本与之前选择的聚类中心的距离大于一定的值，该值记为控制迭代值distrol，添加此样本进入初始聚类中心；

4)循环执行3)，直至选择出K个初始聚类中心C⁰；

步骤3)中所述之前是指：在初次循环时，为步骤2)中第一个聚类中心；在后续循环执行时，为前面循环中选择的所有初始聚类中心；

(3)在第t次循环中，根据聚类中心C^t-1和数据集样本D的空间密度的相似性距离重新划分类得到D^t；

(4)通过类中心迭代模型计算得到新一轮的聚类中心C^t，

(5)循环执行(3)和(4)，直至满足目标函数E的值达到最优即不再变化时结束，

x_j表示第j个样本，c_i表示第i个聚类中心，DistF(x_j,c_i)表示二者空间密度的相似性距离。

优选的，步骤(2)中计算的Space和Density(x_i)具体包括以下步骤：

(A).首先计算数据集样本D中任意两个样本距离的伸缩系数A为：