[发明专利]一种基于Flink Streaming的电网海量数据实时处理方法及装置在审
申请号: | 202110665644.2 | 申请日: | 2021-06-16 |
公开(公告)号: | CN113360576A | 公开(公告)日: | 2021-09-07 |
发明(设计)人: | 陶定元;周福;何鸣一;胡振洲;吕非;张艳;陈亮;陈凯旋;宗伟康;王立旭;马德超;孟婕 | 申请(专利权)人: | 国电南瑞科技股份有限公司;国电南瑞南京控制系统有限公司 |
主分类号: | G06F16/27 | 分类号: | G06F16/27;G06F16/23 |
代理公司: | 南京纵横知识产权代理有限公司 32224 | 代理人: | 张赏 |
地址: | 211106 江*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于Flink Streaming的海量电网数据实时处理方法及装置,该方法包括,从消息中间件中订阅海量电网数据,并采用ProtoBuf反序列化方法对其进行解析,形成Flink数据流;为每一条数据设计有效的键值,并根据键值,将数据划分成多个数据分布均匀的分组,基于Flink Streaming进行并行处理,实现海量数据处理的负载均衡;采用分布式内存型数据库redis进行存储。本发明采用Kafka作为消息接收的中间件,实现海量电网数据高并发接收;海量数据进行分组处理,提高了数据处理速率。 | ||
搜索关键词: | 一种 基于 flink streaming 电网 海量 数据 实时处理 方法 装置 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于国电南瑞科技股份有限公司;国电南瑞南京控制系统有限公司,未经国电南瑞科技股份有限公司;国电南瑞南京控制系统有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202110665644.2/,转载请声明来源钻瓜专利网。
- 上一篇:基于人工智能的大数据安全传输方法、系统及云平台
- 下一篇:硬质涂膜及防反射膜