[发明专利]一种流数据处理方法、系统、装置及计算机可读存储介质有效
申请号: | 201811012942.6 | 申请日: | 2018-08-31 |
公开(公告)号: | CN109254982B | 公开(公告)日: | 2020-09-29 |
发明(设计)人: | 朱彦安;范渊;龙文洁 | 申请(专利权)人: | 杭州安恒信息技术股份有限公司 |
主分类号: | G06F16/2455 | 分类号: | G06F16/2455;G06F16/242 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 罗满 |
地址: | 310000 浙江省杭州*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请公开了一种流数据处理方法,从消息型队列中获取流数据,即此时消息型队列的输出数据为Flink的输入数据,借助消息型队列对初始流数据进行了一次处理,接着利用预设的数据解析规则将接收到的流数据一一解析成键值对事件,以充分结合现今被广泛使用的关系型数据库实现对数据和其对应关系的保存,便于后续基于SQL实现对数据的处理,同时还利用数据分析引擎从多方面、多角度进行数据分析,提升分析结果的准确程度,在应用了本申请提供的数据流处理方法的Flink框架上,可实现对传统流数据业务的快速展开,与现有工具结合更加紧密,效率更高。本申请还同时公开了一种流数据处理系统、装置及计算机可读存储介质,具有上述有益效果。 | ||
搜索关键词: | 一种 数据处理 方法 系统 装置 计算机 可读 存储 介质 | ||
【主权项】:
1.一种流数据处理方法,其特征在于,应用于Flink框架,包括:从消息型队列中获取流数据;利用预设的数据解析规则解析所述流数据,得到各键值对事件,并为各所述键值对事件增加类型信息,得到各Schema信息;接收输入的SQL流指令,并利用数据分析引擎按所述SQL流指令对各所述Schema信息进行分析,得到分析结果;通过第一预设路径输出所述分析结果;其中,所述SQL流指令中的各指令基于类SQL语法编写得到,所述类SQL语法为遵循ANSI SQL标准的SQL语法。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州安恒信息技术股份有限公司,未经杭州安恒信息技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201811012942.6/,转载请声明来源钻瓜专利网。