[发明专利]一种kafka集群动态切换的方法和装置有效
申请号: | 201610375007.0 | 申请日: | 2016-05-31 |
公开(公告)号: | CN107451147B | 公开(公告)日: | 2020-07-31 |
发明(设计)人: | 孙荣章;冯玉敏;马泽国 | 申请(专利权)人: | 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司 |
主分类号: | G06F16/27 | 分类号: | G06F16/27 |
代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 张一军;姜劲 |
地址: | 100195 北京市海淀区杏石口路6*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 kafka 集群 动态 切换 方法 装置 | ||
1.一种kafka集群动态切换的方法,其特征在于,包括:
客户端将鉴权参数发送给配置服务中心以获取相应集群的集群配置信息;
接收所述配置服务中心返回的集群配置信息并与所述客户端上保存的先前集群配置信息作对比;
如果接收到的集群配置信息与所述先前集群配置信息不同,则根据接收到的集群配置信息对应的集群与先前集群的关系及所述配置服务中心记录的先前集群的资源占用情况和运行信息,用接收的集群配置信息更新所述先前集群配置信息并根据更新后的集群配置信息访问相应的集群。
2.根据权利要求1所述的方法,其特征在于,所述客户端包括生产客户端和消费客户端,所述生产客户端生产数据并将所述数据写入所述集群,所述消费客户端从所述集群读取数据并消费所述数据。
3.根据权利要求1所述的方法,其特征在于,所述客户端定时向所述配置服务中心发送所述客户端的心跳信息,所述心跳信息包括:速率信息、数据处理类型和数据条数,所述数据处理类型包括生产和消费。
4.根据权利要求1所述的方法,其特征在于,所述配置服务中心利用连接接口接收客户端发送的鉴权参数并进行鉴权操作,并在鉴权通过后返回所述集群配置信息。
5.根据权利要求2所述的方法,其特征在于,还包括:对于消费客户端,当从先前集群切换至一个新集群时,若所述新集群为所述先前集群的备份集群,则所述配置服务中心记录当前消费的位点信息并保存到数据库中,然后把所述先前集群的集群配置信息更新为所述新集群的集群配置信息;
否则,所述配置服务中心检查消费任务的消息积压量,并当消息积压量为0时,把所述先前集群的集群配置信息更新为所述新集群的集群配置信息。
6.根据权利要求1所述的方法,其特征在于,所述集群配置信息包括:集群消息地址、集群分区标识和zookeeper中该集群的地址。
7.一种kafka集群动态切换的装置,其特征在于,包括:
信息获取模块,用于客户端将鉴权参数发送给配置服务中心以获取相应集群的集群配置信息;
信息对比模块,用于接收所述配置服务中心返回的集群配置信息并与所述客户端上保存的先前集群配置信息作对比;
信息更新模块,用于如果接收到的集群配置信息与所述先前集群配置信息不同,则根据接收到的集群配置信息对应的集群与先前集群的关系及所述配置服务中心记录的先前集群的资源占用情况和运行信息,用接收的集群配置信息更新所述先前集群配置信息并根据更新后的集群配置信息访问相应的集群。
8.根据权利要求7所述的装置,其特征在于,所述客户端包括生产客户端和消费客户端,所述生产客户端生产数据并将所述数据写入所述集群,所述消费客户端从所述集群读取数据并消费所述数据。
9.根据权利要求7所述的装置,其特征在于,所述客户端定时向所述配置服务中心发送所述客户端的心跳信息,所述心跳信息包括:速率信息、数据处理类型和数据条数,所述数据处理类型包括生产和消费。
10.根据权利要求7所述的装置,其特征在于,所述配置服务中心利用连接接口接收客户端发送的鉴权参数并进行鉴权操作,并在鉴权通过后返回所述集群配置信息。
11.根据权利要求8所述的装置,其特征在于,还包括:对于消费客户端,当从先前集群切换至一个新集群时,
若所述新集群为所述先前集群的备份集群,则所述配置服务中心记录当前消费的位点信息并保存到数据库中,然后把所述先前集群的集群配置信息更新为所述新集群的集群配置信息;
否则,所述配置服务中心检查消费任务的消息积压量,并当消息积压量为0时,把所述先前集群的集群配置信息更新为所述新集群的集群配置信息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201610375007.0/1.html,转载请声明来源钻瓜专利网。