[发明专利]一种物联网数据预处理方法及系统在审
申请号: | 201810840349.4 | 申请日: | 2018-07-27 |
公开(公告)号: | CN109063093A | 公开(公告)日: | 2018-12-21 |
发明(设计)人: | 陈虹宇 | 申请(专利权)人: | 重庆工商职业学院 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 重庆百润洪知识产权代理有限公司 50219 | 代理人: | 刘立春 |
地址: | 400039 *** | 国省代码: | 重庆;50 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种物联网数据预处理方法,包括以下步骤:S1.根据产品生产过程产生的数据及数据的使用需求,采用源数据层进行数据的获取存储,采用数据处理层进行数据的并行加载存储,采用数据存储层实现为数据应用展现所需数据的存储;S2.通过使用HDFS存储海量源数据,通过MapReduce处理海量源数据,用HBase分布式数据库存储处理后生产数据;S3.通过三个层面的数据流转从而设计实现产品生产海量生产数据的存储系统;本发明根据产品生产过程的不同特点通过Hadoop实现了海量生产数据的存储。通过HDFS实现了数据的一次写入,多次读取;通过MapReduce实现了充分的并行性,将作业有效分布到数据上。 | ||
搜索关键词: | 存储 生产数据 源数据 预处理 产品生产过程 物联网数据 分布式数据库 数据应用展现 数据处理层 数据存储层 并行加载 产品生产 存储处理 存储系统 多次读取 数据流转 有效分布 并行性 写入 | ||
【主权项】:
1.一种物联网数据预处理方法,其特征在于:包括以下步骤:S1.根据产品生产过程产生的数据及数据的使用需求,采用源数据层进行数据的获取存储,采用数据处理层进行数据的并行加载存储,采用数据存储层实现为数据应用展现所需数据的存储;S2.通过使用HDFS存储海量源数据,通过MapReduce处理海量源数据,用HBase分布式数据库存储处理后生产数据;S3.通过三个层面的数据流转从而设计实现产品生产海量生产数据的存储系统。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于重庆工商职业学院,未经重庆工商职业学院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201810840349.4/,转载请声明来源钻瓜专利网。
- 上一篇:一种递进式阅读控制方法
- 下一篇:一种建立中医药知识图谱的方法