[发明专利]基于Hadoop的MapReduce框架的数据关联方法在审
申请号: | 201911368399.8 | 申请日: | 2019-12-26 |
公开(公告)号: | CN111177103A | 公开(公告)日: | 2020-05-19 |
发明(设计)人: | 舒丽;孙龙超;唐劭;龚平;曾永钢 | 申请(专利权)人: | 北京亚信数据有限公司 |
主分类号: | G06F16/182 | 分类号: | G06F16/182;G06F16/2458 |
代理公司: | 北京鼎承知识产权代理有限公司 11551 | 代理人: | 田恩涛;柯宏达 |
地址: | 100193 北京市海淀区西北旺东路*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本公开提供了一种基于Hadoop的MapReduce框架的数据关联方法,包括:获取参数,所述参数包括待关联的第一数据源和第二数据源、两个数据源之间数据的关联字段以及两个数据源之间数据的连接类型;利用Hadoop的MapReduce框架的混排和排序,将第一数据源和第二数据源中的数据划分至多个列表中,其中,每个列表中的数据为第一数据源和第二数据源中键相同的数据;根据连接类型,对每个列表中来自所述第一数据源的数据与来自所述第二数据源的数据进行笛卡尔积组合,获得所述第一数据源与所述第二数据源的数据关联结果。本公开的方法能够提高数据关联的效率。 | ||
搜索关键词: | 基于 hadoop mapreduce 框架 数据 关联 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京亚信数据有限公司,未经北京亚信数据有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201911368399.8/,转载请声明来源钻瓜专利网。
- 上一篇:一种广告资源整合平台
- 下一篇:一种基于高精度定位技术的混合现实交互系统