[发明专利]一种支持分布式计算的关联规则挖掘算法实现方法及装置有效
申请号: | 201210332525.6 | 申请日: | 2012-09-11 |
公开(公告)号: | CN102945240A | 公开(公告)日: | 2013-02-27 |
发明(设计)人: | 杨进;张金伟 | 申请(专利权)人: | 杭州斯凯网络科技有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 杭州杭诚专利事务所有限公司 33109 | 代理人: | 尉伟敏 |
地址: | 310000 浙江省*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种支持分布式计算的关联规则挖掘算法实现方法及装置,用HDFS的编程模型对关联规则挖掘算法PA进行map函数阶段和reduce函数阶段的两阶段分解:步骤一:配置作业调度器;步骤二:用先验概率映射模块读取数据集,并通过map函数将数据集的数据行转换为键值对;步骤三:用先验概率约简模块读取步骤二处理的键值对,并通过reduce函数随机生成包含i项集的排序规则TopN,同时计算置信度的先验概率分布值;步骤四:再用规则映射模块读取同一个数据集,并再次通过map函数将数据集的数据行转换为键值对;步骤五:再用规则约简模块读取步骤四处理的键值对和步骤三的先验概率分布值,并通过reduce函数计算出排序规则TopN的预测精度值。主要用于PA分布式计算技术中。 | ||
搜索关键词: | 一种 支持 分布式 计算 关联 规则 挖掘 算法 实现 方法 装置 | ||
【主权项】:
一种支持分布式计算的关联规则挖掘算法实现方法,其特征在于,用分布式文件系统HDFS的编程模型MapReduce对关联规则挖掘算法PA进行map函数阶段和reduce函数阶段的两阶段分解,其分解步骤为:步骤一:配置作业调度器Recomjob;步骤二:用先验概率映射模块PriorMap读取数据集,并通过map函数将数据集的数据行转换为键值对;步骤三:用先验概率约简模块PriorReduce读取步骤二处理的键值对,并通过reduce函数随机生成包含i项集的排序规则TopN,同时计算置信度的先验概率分布值;步骤四:再用规则映射模块ParMap读取同一个数据集,并再次通过map函数将数据集的数据行转换为键值对;步骤五:再用规则约简模块ParReduce读取步骤四处理的键值对和步骤三的先验概率分布值,并通过reduce函数计算出排序规则TopN的预测精度值。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州斯凯网络科技有限公司,未经杭州斯凯网络科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201210332525.6/,转载请声明来源钻瓜专利网。