[发明专利]环境质量在线监测数据的采集系统及方法在审
申请号: | 201810040457.3 | 申请日: | 2018-01-16 |
公开(公告)号: | CN108270860A | 公开(公告)日: | 2018-07-10 |
发明(设计)人: | 戈燕红;舒少君;谭红波 | 申请(专利权)人: | 宇星科技发展(深圳)有限公司 |
主分类号: | H04L29/08 | 分类号: | H04L29/08;G01D21/02 |
代理公司: | 深圳市精英专利事务所 44242 | 代理人: | 任哲夫 |
地址: | 518000 广东省深圳市南山*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 集群 采集系统 质量在线监测 数据接收 服务端 海量数据存储 数据存储中心 数据接收能力 客户端请求 高可用性 缓存设备 计算引擎 数据并发 数据采集 数据规则 数据计算 消息队列 站点信息 校验 近实时 客户端 解析 延缓 数据库 站点 支撑 保证 | ||
1.一种环境质量在线监测数据的采集系统,其特征在于,包括数据采集客户端,数据接收服务端,数据计算中心和数据存储中心;
所述数据采集客户端,用于实时或定时采集环境质量监测数据,并将数据发送到所述数据接收服务端;所述数据接收服务端,用于接收所述数据采集客户端发来的数据,并将所述数据发送到数据计算中心;所述数据计算中心,用于接受数据接收服务端的数据,进行计算,将计算后的结果数据以及不经处理的原始数据发送至数据存储中心;所述数据存储中心,用于存储所述数据计算中心计算结果和原始数据;
所述数据接收服务端包括Netty数据接收集群和Kafka消息队列集群;所述Netty数据接收集群,用于接收环境质量数据采集客户端发送来的原始数据;所述Kafka消息队列集群,用于建立Netty数据接收集群与数据计算中心之间的数据通信。
2.根据权利要求1所述环境质量在线监测数据的采集系统,其特征在于,还包括环境自动化监测站,布设于目标区域,用于实时检测目标区域环境质量生成环境质量监测数据;所述环境自动化监测站包括前置服务器,所述数据采集客户端部署于环境自动化监测站前置服务器,实时或定时采集环境自动化监测站的监测数据。
3.根据权利要求1所述环境质量在线监测数据的采集系统,其特征在于,所述数据计算中心包括Redis数据存储集群和Flink计算集群;
所述Redis数据存储集群,用于缓存数据校验规则、环境质量监测站站点信息以及监测因子信息;所述Flink计算集群,用于对所述Kafka消息队列集群中的数据结合Redis缓存数据进行实时计算。
4.根据权利要求1所述环境质量在线监测数据的采集系统,其特征在于,所述数据存储中心包括构建在HDFS上的分布式存储系统Hbase,用于对来自于数据计算中心的数据进行存储。
5.一种环境质量在线监测数据的采集方法,其特征在于,应用权利要求1-4任一所述的环境质量在线监测数据的采集系统完成,步骤包括:
S1,数据采集客户端实时采集环境自动化监测站的监测数据,将监测数据发送至数据接收服务端;
S2,数据接收服务端接受数据采集客户端发送的监测数据,并将所述数据发送至数据计算中心;
S3,数据计算中心对来自数据接收服务端的数据进行计算,并将计算后的结果和原始数据发送至数据存储中心;
S4,数据存储中心存储数据计算中心发送的计算结果和原始数据。
6.根据权利要求5所述的环境质量在线监测数据的采集方法,其特征在于,所述步骤S1具体包括:数据采集客户端将采集的环境质量监测数据发送至数据接收服务端的Netty数据接收集群。
7.根据权利要求5所述的环境质量在线监测数据的采集方法,其特征在于,所述步骤S2具体包括:Netty数据接收集群接收环境质量监测站客户端发送来的原始数据,再将数据发送至Kafka消息队列集群;Kafka消息队列集群将来自Netty数据接收集群的数据进行缓存或者落盘存储。
8.根据权利要求5所述的环境质量在线监测数据的采集方法,其特征在于,所述步骤S3具体包括:将环境质量监测站站点信息、监测因子信息以及数据校验规则信息存入Redis数据存储集群;利用Flink计算集群对所述Kafka消息队列集群中的数据结合Redis数据存储集群中的环境质量监测站站点信息、监测因子信息进行解析计算,再结合Redis中数据规则信息依次对所述Kafka消息队列集群中的数据进行规则校验计算;将计算结果和原始数据发送至数据存储中心。
9.根据权利要求5所述的环境质量在线监测数据的采集方法,其特征在于,所述步骤S4具体包括:通过Hbase存储系统对来自于数据计算中心的数据进行存储。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于宇星科技发展(深圳)有限公司,未经宇星科技发展(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810040457.3/1.html,转载请声明来源钻瓜专利网。