[发明专利]一种面向K均值聚类算法的质心以及质心个数初始化方法在审
申请号: | 201811245231.3 | 申请日: | 2018-10-24 |
公开(公告)号: | CN109472300A | 公开(公告)日: | 2019-03-15 |
发明(设计)人: | 徐小龙;徐浩严 | 申请(专利权)人: | 南京邮电大学 |
主分类号: | G06K9/62 | 分类号: | G06K9/62 |
代理公司: | 南京纵横知识产权代理有限公司 32224 | 代理人: | 董建林 |
地址: | 210023 *** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 质心 初始化 信息熵 维度 结果影响 均值算法 快速收敛 两维数据 密度曲线 数据代替 重新建立 数据集 原数据 迭代 降维 排序 运算 绘制 混乱 | ||
1.一种面向K均值聚类算法的质心以及质心个数初始化方法,其特征在于,包括以下步骤:
步骤1:对数据集中的数据进行聚类特征提取,将数据提取出新的特征,其中,聚类特征提取是指将一个二维数据映射到数据最密集的方向上;
步骤2:利用提取出的新的特征绘制密度曲线,将密度曲线极大值处的数据密度初始化为这一维数据的质心,根据获得的质心将当前这一维数据划分为若干簇,再根据所得的簇将数据集划分为若干簇,其中,密度曲线描述数据在所处位置处的密集程度;
步骤3:利用叠加式簇的划分将高维数据划分为若干簇,其中,叠加式簇的划分是指通过每一维数据的叠加将数据划分为若干簇;最终得到的簇的个数初始化为K均值聚类的初值,再求取每个簇元素的平均值初始化为K均值聚类的质心。
2.根据权利要求1所述的一种面向K均值聚类算法的质心以及质心个数初始化方法,其特征在于,步骤一中,对数据进行聚类特征提取的步骤进一步包括以下步骤:
步骤1.1:将数据离散化,这里采用等距离散化,通过预先设置好的阈值N,将数据最大值与最小值之间的距离等分为N个区间,其中,N为区间个数;
步骤1.2:先计算数据出现在第i(i=1,2,...,N)个区间的概率pi,然后计算出N个区间的信息熵H(U),H(U)表示描述数据的混乱程度的量,其中U为N个区间的集合,表示出现在这些区间中的数据的信息熵,将每一维数据按照信息熵由小到大进行排序,信息熵越小,数据的混乱程度越小,聚类的特征越明显,其中,信息熵H(U)的计算式为:
步骤1.3:对于有n条数据m个属性的数据集,用x1,x2,x3,...xm来表示每一维的属性,选取x1和x2分别作为X轴与Y轴坐标,这里用x和y来表示,首先从数据集中提取两维信息熵较小的数据进行处理,有利于在开始时能够进行准确的簇的划分;
步骤1.4:求出平面的中心点其中为一个点对应着步骤1.3中两维数据的均值,其中,xi表示步骤1.3中两维数据的组成的点,n表示共有n条数据,求出平面的中心点的计算式为:
步骤1.5:其中S表示原始数据的协方差矩阵,假设投影向量为u,u为变量,通过u表示出转置后的方差有利于之后问题的求解,则投影后的方差为:
步骤1.6:对(3)式等号右边使用拉格朗日乘子法进行计算,将该投影后方差最小化,这是一个典型的有约束优化问题,利用拉格朗日乘子法,设定乘子为λ1,S表示原始数据的协方差矩阵,u为投影向量,则优化问题转换为:
uTSu=uTSu+λ1(1-uTu) (4);
步骤1.7:对(4)式求导并且使之为0,计算出方差的极大值点与极小值点,得到等式:
Su=λ1u (5)
在极小值点求出此时的u向量,再求出u的正交向量r,将数据分别映射到u向量和r向量上,得到数据分别为k1和k2,此时映射在u向量上的数据方差最小,从而得到新的坐标系,同时将两个维度的数据更新得到数据k1和k2,分别对应X轴与Y轴坐标,其中,k1=[uX1,uX2,uX3,…,uXi,…,uXn],k2=[rX1,rX2,rX3,…,rXi,…,rXn],Xi为步骤1.4中数据,n为步骤1.3中数据,λ1为乘子,S表示原始数据的协方差矩阵,u为投影向量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京邮电大学,未经南京邮电大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811245231.3/1.html,转载请声明来源钻瓜专利网。