[发明专利]一种分布式关联规则增量的更新方法及装置在审
申请号: | 201810010225.3 | 申请日: | 2018-01-05 |
公开(公告)号: | CN108197272A | 公开(公告)日: | 2018-06-22 |
发明(设计)人: | 马威;蒋严 | 申请(专利权)人: | 北京搜狐新媒体信息技术有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30;G06F8/658 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 王宝筠 |
地址: | 100190 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请提供了一种分布式关联规则增量的更新方法,加载原始数据集和新增数据集,分别将其转换为弹性分布式数据集RDD,并分别对原始数据集RDD和新增数据集RDD进行分布式存储;对新增数据集RDD进行并行化处理,得到新增频繁项集;根据原始频繁项集RDD和新增频繁项集RDD,生成第一候选项集和第二候选项集;分别统计所述第一候选项集和所述第二候选项集的支持度,并过滤掉第一候选项集和所述第二候选项集中小于最小支持度的候选项集,得到最终频繁项集。减少算法I/O时间以及简化频繁项集的产生过程,实现算法的并行化,从而提高算法的执行效率。 | ||
搜索关键词: | 候选项 频繁项集 数据集 算法 原始数据集 关联规则 并行化处理 分布式存储 分布式数据 最小支持度 并行化 支持度 更新 加载 过滤 转换 申请 统计 | ||
【主权项】:
1.一种分布式关联规则增量的更新方法,其特征在于,包括:加载原始数据集和新增数据集,分别将所述原始数据集和所述新增数据集转换为弹性分布式数据集RDD,并分别对原始数据集RDD和新增数据集RDD进行分布式存储;加载原始频繁项集,将所述原始频繁项集转换为RDD,并对原始频繁项集RDD进行存储;对所述新增数据集RDD进行并行化处理,得到新增频繁项集;根据所述原始频繁项集RDD和所述新增频繁项集RDD,生成第一候选项集和第二候选项集;分别统计所述第一候选项集和所述第二候选项集的支持度,并过滤掉所述第一候选项集和所述第二候选项集中小于最小支持度的候选项集,得到最终频繁项集。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京搜狐新媒体信息技术有限公司,未经北京搜狐新媒体信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201810010225.3/,转载请声明来源钻瓜专利网。