[发明专利]一种面向实时大数据平台Storm的属性抽取系统有效

专利信息
申请号: 201610040260.0 申请日: 2016-01-18
公开(公告)号: CN105681308B 公开(公告)日: 2019-05-17
发明(设计)人: 张卫山;段鹏程;宫文娟;卢清华;李忠伟 申请(专利权)人: 青岛邃智信息科技有限公司
主分类号: H04L29/06 分类号: H04L29/06;H04L29/08
代理公司: 北京科亿知识产权代理事务所(普通合伙) 11350 代理人: 汤东凤
地址: 266000 山东省青岛市黄岛*** 国省代码: 山东;37
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 面向 实时 数据 平台 storm 属性 抽取 系统
【权利要求书】:

1.一种面向实时大数据平台Storm的属性抽取系统,其特征在于,包括:

搭建Storm集群环境;开启Storm集群环境;开发拓扑结构,上传拓扑任务到Storm集群;开启代码注入器,动态注入监控代码;启动监控设备上的监控器,感知Storm集群自身对象以及拓扑结构中的对象;收集Storm环境属性,存入存储设备;

为了获取Storm某一个拓扑中所有任务的属性,Storm的一个拓扑结构中的所有螺栓和喷口需要分别继承框架中的BaseMetricBolt和BaseMetricSpout,同时需要在上传拓扑之前开启监控服务器,其开启入口在TopoMetricProtocolImpl中;BaseMetricBolt和BaseMetricSpout分别继承于BaseRichBolt与BaseRichSpout,CpuMetric与TrafficMetric分别实现了IMetric。

2.如权利要求1所述的面向实时大数据平台Storm的属性抽取系统,其特征在于,在开发过程中的静态属性,包括远程调用的实现、低耦合的属性提取机制的实现以及与Storm的代码+融合的实现。

3.如权利要求1所述的面向实时大数据平台Storm的属性抽取系统,其特征在于,面向实时大数据平台Storm的属性抽取系统的存储结构,包括任务层面、拓扑层面以及集群层面。

4.如权利要求1所述的面向实时大数据平台Storm的属性抽取系统,其特征在于,对于一个Storm的拓扑结构,如果需要所述面向实时大数据平台Storm的环境属性抽取系统来进行对属性的提取,需要在拓扑结构中另外新开一个计算任务,所述计算任务专门用来获取Storm实时平台中对应的拓扑结构中的每一个计算任务的属性。

5.如权利要求4所述的面向实时大数据平台Storm的属性抽取系统,其特征在于,所述新的计算任务就是TopologyMetricsConsumer类的一个实例,其继承于Storm实时框架内部的IMetricsConsumer。

6.如权利要求1所述的面向实时大数据平台Storm的属性抽取系统,其特征在于,除了基于Storm实时计算框架本身的API之外,其通信部分还依赖于远程过程调用金和序列化机制的一个来有效实现HadoopRPC。

7.如权利要求1所述的面向实时大数据平台Storm的属性抽取系统,其特征在于,TopologyMetricsEvent组合了ComponentMetricsEvent,同时实现了HadoopRPC中的Writable接口;其远程过程调用机制体现在TopoMetricProtocolImpl实现了MetricProtocol,而MetricProtocol同时也继承了HadoopRPC的VersionedProtocol。

8.如权利要求7所述的面向实时大数据平台Storm的属性抽取系统,其特征在于,当监控服务器启动之后,一旦TopologyMetricsConsumer的实例开始接受Storm中的对应的拓扑结构的属性之后,通过HadoopRPC实现的远程过程调用,监控服务器通过TopoMetricProtocolImpl来调用Storm集群中的拓扑结构的属性数据。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于青岛邃智信息科技有限公司,未经青岛邃智信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201610040260.0/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top