[发明专利]基于特征权重的全局K-均值聚类方法

摘要

一种基于特征权重的全局K-均值聚类方法，其实现过程为：首先将数据聚为一类，其最优聚类中心为所有数据的质心，接着通过计算求出目标函数最小的数据点并将该数据点作为下一类的初始聚类中心，再利用带有特征权重的K-均值方法迭代更新得到聚为两类时的最佳聚类中心，采用同样的方法依次增加聚类中心数进行更新迭代直到聚完设定的K类为止，这样就完成了将所有数据点聚到K类的整个过程。本发明将全局K-均值方法与带有特征属性的K-均值相结合，构造了一种新的基于特征权值的全局K-均值聚类方法，聚类结果十分稳定，通过与几种K-均值类聚类方法的实验结果比较，证明本发明的聚类方法的有效性和鲁棒性。

主权项

1.一种基于特征权重的全局K-均值聚类方法，其特征在于：首先将数据聚为一类，其最优聚类中心为所有数据的质心，接着通过计算求出目标函数最小的数据点并将该数据点作为下一类的初始聚类中心，再利用带有特征权重的“K-均值方法”迭代更新得到聚为两类的最佳聚类中心，采用同样的方法依次增加聚类中心数进行聚类，直到聚为设定的K类为止，从而完成将所有数据点聚为K类的整个过程，其具体实现步骤如下：(1)输入多维数据x_ij，1≤i≤N，1≤j≤D和聚类个数K，其中N表示数据的个数，D表示数据的特征属性个数，x_ij表示第j个属性的第i个数据点；(2)初始化聚类个数k＝1初始化第k类的特征权重值为D和d表示样本的特征属性个数，当k＝1时，即只聚为一类时，其最优的聚类中心就是所有数据的质心，把所有数据点的质心作为第一类的初始聚类中心，即(3)进行k+1类聚类1)找到第k+1类的初始最优聚类中心：①前k类的聚类中心(Z₁，…，Z_k)和特征权值[λ₁，λ₂，…，λ_k]已求出，将(Z₁，…，Z_k)作为前k类的最优初始中心；②将所有数据点依次作为第k+1个初始中心，且初始化第k+1类的特征权重值为③以(Z₁，…，Z_k，X_i)作为聚类中心，X_i∈X，对所有数据进行N次聚类操作：第一步：每次计算出每个数据点和每个聚类中心之间的特征权重欧式距离，通过公式(1)将数据点的特征权重欧式距离进行比较，然后把数据点划分到距离最小的那一类：whi=1ifΣj=1Dλk,jβ(zk,j-xi,j)2≤Σj=1Dλh,jβ(zh,j-xi,j)21≤h≤k+10otherwise---(1)]]>式(1)中参数β＝1.8，w_hi表示第i个数据是否属于h类，z_h，j表示第h类聚类中心的第j个属性的值，λ_k，j第k个类别第j个属性的权重值，k表示类别，h表示小于类别k的变量；第二步：将聚类中心(Z₁，…，Z_k，X_i)，w_hi和[λ₁，λ₂，…，λ_k+1]代入以下目标函数：J(W,Z,Λ)=Σh=1k+1Σi=1NwhiΣj=1Dλhjβ||zhj-xij||2---(2)]]>(2)式中，W＝[w_i，j]是一个K×N的整数矩阵，Z＝[Z₁，Z₂，…，Z_k]是代表聚类中心的矩阵，Λ＝[λ_l，i]是一个K×D的特征权值的实数矩阵，将得到的值代入之后得出J(Z₁，…，Z_k，X_i)；④选出第k+1初始最优中心，把每个J(Z₁，…，Z_k，X_i)进行比较，找出最小的J(Z₁，…，Z_k，X_i)，则相应的X_i是k+1类的初始最优聚类中心，即Z_k+1；2)对得到的聚类中心(Z₁，…，Z_k，Z_k+1)进行优化更新：①将所有数据点进行聚类，计算出每个数据点和每个聚类中心之间的特征权重欧式距离；通过(1)式将数据点的特征权重欧式距离进行比较，然后把数据点划分到距离最小的那一类：②将更新得到的w_hi带入下面的式子，更新聚类中心z_hj：zhj=Σi=1NωhixijΣi=1Nωhi,]]>1≤h≤k+1           (3)③再将更新得到的w_hi和z_hj代入下式更新每一个数据的特征权重值λ_hj：λhj=1Σt=1D[Σi=1Nωhi(zhj-xij)2Σi=1Nωhi(zht-xit)2]1/(β-1)]]>1≤h≤k+1                    (4)④将更新得到的w_hi，z_hj和λ_hj代入到以下目标函数进行计算：JT(W,Z,Λ)=Σh=1k+1Σi=1NwhiΣj=1Dλhjβ||zhj-zij||2]]>其中，W＝[w_i，j]是一个K×N的整数矩阵，Z＝[Z₁，Z₂，…，Z_k]是代表聚类中心的矩阵，Λ＝[λ_l，i]是一个K×D的特征权值的实数矩阵，将得到的值代入之后得出J^T，其中T代表运行更新次数，J^T则代表第T次运行得到的目标函数值；⑤目标函数值如果满足|J^T-J^T-1|≤10e-4，则执行步骤(3)进行k+1聚类，否则，返回步骤2)歩，对聚类中心进行更新优化直到满足上述条件；(4)判断是否满足终止条件即判断k+1＞K是否成立，成立则方法结束，否则返回第(3)步进行k+1类聚类。