[发明专利]一种限流方法及装置

说明书

本发明公开了一种限流方法及装置，能够适应系统的动态变化，包括：在系统状态发生变化时，获取服务响应时延；服务响应时延为设定时间周期内系统响应一次服务请求所用的平均时延；在服务响应时延超过预设时延时，按预设规则调整周期分发令牌数直至服务响应时延达到预设时延；周期分发令牌数用于指示系统在一个周期内处理的服务请求的数量；预设规则为波浪式调整周期分发令牌数且在每个波段中周期分发令牌数的减少量大于周期分发令牌数的增加量。通过服务响应时延动态调整令牌数能够更好地适应不同系统状态下系统对服务请求的限流,而且,波浪式调整周期分发令牌数更加稳定、高效。

技术领域

本发明涉及计算机技术领域，尤其涉及一种限流方法及装置。

背景技术

限流是一种常用的系统保护措施。在系统响应用户业务请求时，会产生一定的访问流量，通常系统中都具备限流器功能，以实现对系统中的业务流量进行控制以防止业务流量过大而超过系统处理能力，使系统宕机。具备限流器功能的系统含有限流器令牌桶模块，在限流器的令牌桶中存有一定数量的令牌，系统每响应一次业务请求，便从限流器令牌桶中扣除一定数量的令牌，当限流器令牌桶中令牌数量不足时，便停止响应该业务请求，以实现对该业务请求的限流。

然而，现有的限流方式多为单阈值限流，即设置一个固定的每秒分发令牌数(Token per Second，TPS)阈值，当业务请求的每秒请求令牌数大于预设的TPS时，便不允许该终端继续获取令牌。这种限流方式过于简单粗暴，不适应于系统的动态变化。例如，当系统增加新的服务器时，其能够承载更高的业务流量，此时若继续沿用原有的TPS阈值，便无法充分利用系统的负载能力，造成了资源浪费。

综上所述，现有的限流方案存在着无法适应系统的动态变化的问题。

发明内容

本发明提供一种限流器建立方法及装置，用以解决现有技术中存在无法适应系统的动态变化的问题。

本发明实施例提供一种限流方法，包括：

在系统状态发生变化时，获取服务响应时延；所述服务响应时延为设定时间周期内系统响应一次服务请求所用的平均时延；

在所述服务响应时延超过预设时延时，按预设规则调整周期分发令牌数直至所述服务响应时延达到所述预设时延；所述周期分发令牌数用于指示所述系统在一个周期内处理的服务请求的数量；所述预设规则为波浪式调整所述周期分发令牌数且在每个波段中所述周期分发令牌数的减少量大于所述周期分发令牌数的增加量。

可选的，所述按预设规则调整周期分发令牌数直至所述服务响应时延达到所述预设时延，包括：

在M个周期内减少所述周期分发令牌数直至所述服务响应时延达到或低于所述预设时延，其中，第M-1个周期的周期分发令牌数与第M个周期的周期分发令牌数的差值为第一令牌数；M为大于1的正整数；

在所述服务响应时延低于所述预设时延时，根据所述第一令牌数和预设周期数N按周期增加所述周期分发令牌数直至所述服务响应时延超过或达到所述预设时延；N为大于1的正整数；

在所述服务响应时延超过所述预设时延时，返回在M个周期内减少所述周期分发令牌数直至所述服务响应时延达到或低于所述预设时延的步骤。

可选的，根据所述第一令牌数和预设周期数N按周期增加所述周期分发令牌数，包括：

根据所述第一令牌数和所述预设周期数N的比值确定每个周期的周期分发令牌增加数；

在所述第一令牌数能够被N整除，且前N-1个周期的服务响应时延低于所述预设时延时，将第N个周期的周期分发令牌增加数分配到至少两个周期内，以在所述至少两个周期内逐步增加所述第N个周期的周期分发令牌数，直至所述服务响应时延超过或达到所述预设时延。

可选的，获取服务响应时延后，还包括：