[发明专利]Hadoop数据文件的生成方法与解析方法有效
申请号: | 201510450976.3 | 申请日: | 2015-07-28 |
公开(公告)号: | CN105094828B | 公开(公告)日: | 2018-09-11 |
发明(设计)人: | 金大中;王军涛 | 申请(专利权)人: | 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司 |
主分类号: | G06F8/30 | 分类号: | G06F8/30;G06F17/30 |
代理公司: | 中科专利商标代理有限责任公司 11021 | 代理人: | 宋焰琴 |
地址: | 100080 北京市海淀区杏石口路6*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供了一种Hadoop数据文件的生成方法及解析方法,Hadoop数据文件的生成方法包括:应用程序在输出一行Hadoop数据对象时,根据Hadoop数据对象的类型,在Hadoop数据对象中添加一列标签数据;根据一个或多个Hadoop数据对象,生成一个Hadoop数据文件。此Hadoop数据文件提高了数据的可识别性,进而提高程序开发效率和程序代码的可读性,同时提高mapreduce程序对多数据源输入的支持。 | ||
搜索关键词: | hadoop 数据文件 生成 方法 解析 | ||
【主权项】:
1.一种数据处理方法,其特征在于,所述方法包括解析Hadoop数据文件,所述解析Hadoop数据文件包括:S1,通过mapreduce程序获取所述Hadoop数据文件的每行数据,其中:在所述mapreduce程序的配置信息中,指定输入文件为带标签数据的数据文件,所述标签数据唯一对应一种数据类型;在所述mapreduce程序的配置信息中,指定每种数据类型对应的列信息,所述列信息包括每列数据的列名信息;S2,将每行数据分别封装到一个实体对象中,将所述标签数据赋予Tag属性;S3,通过函数获取所述实体对象中封装的每列数据,其中,通过提供所述实体对象Tag属性来获知数据类型并根据所述列名信息获取数据。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201510450976.3/,转载请声明来源钻瓜专利网。
- 上一篇:一种基于Git随时发布代码的实现方法
- 下一篇:触觉设计创作工具