[发明专利]服务调用方法、装置及系统有效
申请号: | 202010341035.7 | 申请日: | 2020-04-26 |
公开(公告)号: | CN111556142B | 公开(公告)日: | 2023-04-18 |
发明(设计)人: | 李太友;陈桂刚;刘纯;李大勤;宋晨;赵健军 | 申请(专利权)人: | 天津中新智冠信息技术有限公司;天津美腾科技股份有限公司 |
主分类号: | H04L67/1014 | 分类号: | H04L67/1014;H04L67/60;H04L67/568;H04L67/61;H04L67/1036 |
代理公司: | 北京超成律师事务所 11646 | 代理人: | 许书音 |
地址: | 300450 天津市滨海新区天津中新生态城中*** | 国省代码: | 天津;12 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 服务 调用 方法 装置 系统 | ||
本发明提供了一种服务调用方法、装置及系统,该方法包括:获取服务端内各个后端服务副本的优先级信息;如果接收到客户发送的调用请求,按照优先级信息从各个后端服务副本调用第一目标服务副本;判断第一目标服务副本是否调用成功;如果否,更新各个后端服务副本的优先级信息,并按照更新后的优先级信息从各个后端服务副本中继续确定第二目标服务副本,直至第二目标服务副本调用成功,以通过第二目标服务副本执行与调用请求对应的服务。本发明可以有效降低调用后端服务的硬件需求,还可以提高调用后端服务的实时性。
技术领域
本发明涉及负载均衡技术领域,尤其是涉及一种服务调用方法、装置及系统。
背景技术
由于目前现有网络的各个核心部分随着业务量的提高,访问量和数据流量的快速增长,其处理能力和计算强度也相应地增大,使得单一的后端服务器设备根本无法承担,为改善这一问题,可以部署多个可被调用的后端服务器,并利用负载均衡手段均匀分配各个后端服务器的工作量。目前负载均衡手段通常是由服务器实现,且一般需要部署至少两个负载均衡服务器,也即通过服务器进行负载均衡的方式调用后端服务器具有较高的硬件需求,从而导致这种方式无法较好的应用于工业业务系统。另外,后端服务器在压力较大时会拒绝服务、报错或者在处理队列里无限期堆积,此时负载均衡服务器会在一个超时周期后发现请求堆积情况,导致无法及时处理客户请求,也即通过服务器进行负载均衡的方式调用后端服务器存在实时性较差的问题。
发明内容
有鉴于此,本发明的目的在于提供一种服务调用方法、装置及系统,可以有效降低调用后端服务的硬件需求,还可以提高调用后端服务的实时性。
第一方面,本发明实施例提供了一种服务调用方法,所述方法应用于客户端,所述客户端用于对服务端内的多个后端服务副本进行调用,所述方法包括:获取所述服务端内各个所述后端服务副本的优先级信息;如果接收到客户发送的调用请求,按照所述优先级信息从各个所述后端服务副本调用第一目标服务副本;判断所述第一目标服务副本是否调用成功;如果否,更新各个所述后端服务副本的优先级信息,并按照更新后的优先级信息从各个所述后端服务副本中继续确定第二目标服务副本,直至所述第二目标服务副本调用成功,以通过所述第二目标服务副本执行与所述调用请求对应的服务。
在一种实施方式中,所述客户端包括负载均衡组件,所述服务端包括缓存中心;所述缓存中心用于存储各个所述后端服务副本的优先级信息;获取所述服务端内各个所述后端服务副本的优先级信息的步骤,包括:通过所述负载均衡组件访问所述缓存中心,得到所述服务端内各个所述后端服务副本的优先级信息。
在一种实施方式中,所述服务端还包括线程池和/或处理队列;所述更新各个所述后端服务副本的优先级信息的步骤,包括:通过所述负载均衡组件内预置的健康检查策略,检查所述第一目标服务副本的健康状态;其中,所述健康检查策略包括以下至少一种:比对所述第一目标服务副本的当前负载与预设负载阈值、比对所述第一目标服务副本的线程池的当前占比与预设占比阈值、比对所述第一目标服务副本的处理队列的当前容量与预设容量阈值;如果所述第一目标服务副本的健康状态处于异常状态,更新各个所述后端服务副本的优先级信息。
在一种实施方式中,所述检查所述第一目标服务副本的健康状态的步骤,包括:如果所述第一目标服务副本的所述当前负载大于所述预设负载阈值,确定所述第一目标服务副本的健康状态异常;或,如果所述第一目标服务副本的线程池的所述当前占比大于所述预设占比阈值,确定所述第一目标服务副本的健康状态异常;或,如果所述第一目标服务副本的处理队列的所述当前容量大于所述预设容量阈值,确定所述第一目标服务副本的健康状态异常。
在一种实施方式中,所述优先级信息包括权重值;所述如果所述第一目标服务副本的健康状态处于异常状态,更新各个所述后端服务副本的优先级信息的步骤,包括:如果所述第一目标服务副本的健康状态处于异常状态,利用所述第一目标服务副本的权重值与预设降低值的差值,更新所述第一目标服务副本的权重值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于天津中新智冠信息技术有限公司;天津美腾科技股份有限公司,未经天津中新智冠信息技术有限公司;天津美腾科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010341035.7/2.html,转载请声明来源钻瓜专利网。