[发明专利]服务调用量的控制方法和装置有效
申请号: | 201810068708.9 | 申请日: | 2018-01-24 |
公开(公告)号: | CN110071952B | 公开(公告)日: | 2023-08-08 |
发明(设计)人: | 朱琳波;刘彧;黄齐辉;孙锦亮;孙悦;王添枝;于强强 | 申请(专利权)人: | 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司 |
主分类号: | H04L67/60 | 分类号: | H04L67/60;H04L67/51;H04L47/10;H04L47/20 |
代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 张一军;杨晓伟 |
地址: | 100195 北京市海淀区杏石口路6*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 服务 调用 控制 方法 装置 | ||
本发明公开了一种服务调用量的控制方法和装置,涉及计算机技术领域。该方法的一具体实施方式包括:接收调用本地服务的用户请求;其中,所述本地服务依赖于至少一个上游服务;在所述用户请求正常调用所述本地服务时,利用预先存储的、所述至少一个上游服务中每一上游服务的当前调用量控制策略,确定所述用户请求是否正常调用该上游服务:若是,返回该上游服务的正常调用数据;否则,返回该上游服务的默认数据;根据每一上游服务返回的正常调用数据或默认数据生成响应信息向用户返回。该实施方式能够利用预先存储的每一上游服务的当前调用量控制策略,自动控制上游服务调用量,从而实现上游服务的自动降级或自动恢复。
技术领域
本发明涉及计算机技术领域,尤其涉及一种服务调用量的控制方法和装置。
背景技术
在计算机技术领域,需要服务端既能应对特定场景下短时间内涌入的大量请求带来的巨大负载,又能在一般负载情况下提供不间断的高可用服务。在实际应用中,一个本地服务往往依赖于多个上游服务,当上游服务性能变差、不可用或者无法支撑流量洪峰时,就需要提前或即时降级对应服务,而现有的降级操作一般都是由人工手动实现。
在实现本发明的过程中,发明人发现现有技术至少存在以下问题:
1.降级操作不够迅速。从服务出现问题,到开发人员收到业务报警,再到手动降级操作完毕,这个过程会产生较长时间的滞后,进而导致较多的服务不可用。出于同样的原因,恢复(从降级中恢复)操作也会产生较长时间的滞后,易造成服务资源的浪费。
2.现有的降级与恢复只能进行全流量操作,无法进行部分流量的操作。这样,一些本可支撑较小流量的服务在面对较大流量时会被提前全流量降级,从而造成资源浪费;在降级一段时间之后,全流量恢复易产生冷启动问题。
3.在特定场景下,流量洪峰会在深夜或凌晨触发,这时需要额外安排人力提前进行降级操作,因此造成人力成本的增加。
发明内容
有鉴于此,本发明实施例提供一种服务调用量的控制方法和装置,能够利用预先存储的每一上游服务的当前调用量控制策略,自动控制上游服务调用量,从而实现上游服务的自动降级或自动恢复。
为实现上述目的,根据本发明的一个方面,提供了一种服务调用量的控制方法。
本发明实施例的服务调用量的控制方法包括:接收调用本地服务的用户请求;其中,所述本地服务依赖于至少一个上游服务;在所述用户请求正常调用所述本地服务时,利用预先存储的、所述至少一个上游服务中每一上游服务的当前调用量控制策略,确定所述用户请求是否正常调用该上游服务:若是,返回该上游服务的正常调用数据;否则,返回该上游服务的默认数据;以及,根据每一上游服务返回的正常调用数据或默认数据生成响应信息向用户返回。
可选地,所述方法进一步包括:为每一上游服务设置多条调用量控制策略;其中,所述多条调用量控制策略包括至少一条降级策略和至少一条恢复策略;在该上游服务处于全量降级状态时,选取该上游服务的一条恢复策略作为该上游服务的当前调用量控制策略并存储;在该上游服务不处于全量降级状态时,选取该上游服务的一条降级策略作为该上游服务的当前调用量控制策略并存储。
可选地,所述降级策略包括:至少一条性能降级策略,每一降级策略均包含降级条件与调用量降级比例;以及,所述选取该上游服务的一条降级策略作为该上游服务的当前调用量控制策略包括:采集该上游服务的运行数据,统计所述运行数据获取该上游服务在当前统计周期的性能指标;在该上游服务的性能降级策略中,确定降级条件与当前统计周期的性能指标匹配的性能降级策略,将其作为该上游服务的初选调用量控制策略;将所述初选调用量控制策略中的调用量降级比例最大者确定为该上游服务的当前调用量控制策略。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810068708.9/2.html,转载请声明来源钻瓜专利网。