[发明专利]一种基于Hadoop和HBase的层次聚类方法有效
| 申请号： | 201610851970.1 | 申请日： | 2016-09-26 |
| 公开（公告）号： | CN106484818B | 公开（公告）日： | 2023-04-28 |
| 发明（设计）人： | 刘发贵;周晓场 | 申请（专利权）人： | 华南理工大学 |
| 主分类号： | G06F16/22 | 分类号： | G06F16/22;G06F16/25 |
| 代理公司： | 广州粤高专利商标代理有限公司 44102 | 代理人： | 何淑珍 |
| 地址： | 510640 广东*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种基于Hadoop和HBase的层次聚类方法。该方法通过Hadoop来计算距离矩阵，并将结果转化为HFile文件用Bulk Load方法导入到HBase中，HBase用来存储距离矩阵，主要分为两张表，其中一个表按cluster ID对进行排序，另一个表按cluster间的距离进行排序，可以方便实现每次迭代取出距离最近的两个cluster进行合并。最后再实现一个多线程的算法并结合cache技术统一处理HBase中的距离矩阵，实现层次聚类算法并预留多个可调节参数，该算法同时支持single‑linkage、complete‑linkage和average‑linkage三种聚类法。本发明提出的方案利用了Hadoop的并行计算能力和HBase的海量数据存储能力，从而提高层次聚类算法的大数据处理能力和扩展性。 | ||
| 搜索关键词： | 一种 基于 hadoop hbase 层次 方法 | ||
【主权项】：
一种基于Hadoop和HBase的层次聚类方法，其特征在于用Hadoop来实现一个距离矩阵并行化计算， 并用HBase来存储距离矩阵，在表的设计中采用RowKey设计充分利用HBase的排序功能，再结合多线程技术和cache技术来处理HBase中的距离矩阵，从而实现能应用于大数据的、具有扩展性的层次聚类方法。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于华南理工大学，未经华南理工大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201610851970.1/，转载请声明来源钻瓜专利网。
- 上一篇：一种数据搜索方法及系统
- 下一篇：一种统计用户量的方法及装置
