[发明专利]基于Spark平台采用两次评价的加权选择集成三支聚类方法有效
申请号: | 201710548072.3 | 申请日: | 2017-07-06 |
公开(公告)号: | CN107480694B | 公开(公告)日: | 2021-02-09 |
发明(设计)人: | 于洪;陈云;胡峰;王国胤;胡军 | 申请(专利权)人: | 重庆邮电大学 |
主分类号: | G06K9/62 | 分类号: | G06K9/62 |
代理公司: | 重庆市恒信知识产权代理有限公司 50102 | 代理人: | 刘小红 |
地址: | 400065 重*** | 国省代码: | 重庆;50 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明请求保护一种基于Spark平台采用两次评价的加权选择集成三支聚类方法,主要包括如下步骤:步骤1,对大数据集进行分区和管理并生成对应的弹性分布式数据集(RDD);步骤2,使用基于Spark的K‑Means聚类算法对每个分区数据进行聚类,生成多个不同的聚类成员;步骤3,通过两次评价,构造新的评价函数以及加权选择策略,对聚类成员进行选择,删除聚类效果不佳的聚类结果,构成新的聚类成员;步骤4,将聚类成员进行集成,构造一个加权的投票矩阵,根据三支决策规则进行聚类划分,得到最终的三支聚类结果。本发明大幅减少了算法运行时间,提高了算法效率。 | ||
搜索关键词: | 基于 spark 平台 采用 两次 评价 加权 选择 集成 三支聚类 方法 | ||
【主权项】:
一种基于Spark平台采用两次评价的加权选择集成三支聚类方法,其特征在于,包括以下步骤:步骤1,对大数据集进行分区管理并生成对应的弹性分布式数据集RDD;步骤2,使用基于Spark的K‑Means聚类算法同时对每个分区的数据进行聚类,生成多个不同的聚类成员;步骤3,通过两次评价,构造聚类成员新的评价函数以及加权选择策略,对聚类成员进行选择,删除聚类效果不佳的聚类结果,构成新的聚类成员;步骤4,将聚类成员进行集成,构造一个加权的投票矩阵,根据三支决策规则进行聚类划分,得到最终的三支聚类结果。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于重庆邮电大学,未经重庆邮电大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201710548072.3/,转载请声明来源钻瓜专利网。