[发明专利]基于缓存队列的滑动窗口限流的实现方法

说明书

本发明公开了一种基于缓存队列的滑动窗口限流的实现方法。它是基于redis缓存中间件+lua脚本的滑动窗口限流的实现方法，具体步骤如下：步骤1：设置自定义阈值，限制限流条件为N个/M秒；步骤2：Redis中创建滑动窗口，其中队列元素的值为请求时间；该创建滑动窗口即流量控制队列；步骤3：当前时间批次X个，载入lua脚本，判断此批X个是否被限制；X应小于队列长度；步骤4：被限制则继续轮循，返回上一步，否则则继续后续程序逻辑。本发明方法解决分布式环境下的流量控制问题难度偏大，特别是现有的限流算法，采取的是一段时间内的发送数量与阈值对比，这样存在两个时间段分别不超过阈值，但是两个时间段之间的时间段可能超过阈值的情况。

技术领域

本发明涉及高并发限流应用领域，特别是一种基于缓存队列的滑动窗口限流的实现方法。

背景技术

目前主流的限流算法主要为令牌桶限流，漏桶限流以及计数器限流，以及在互联网高访问量环境下， 需要保证数据的原子性，所以会对限流要求更高，如何处理高并发分布式场景下的限流问题已经成为当前的重要研究方向之一。

中国发明专利申请（公开号：CN 107645456A）公开了一种流量控制方法和流量控制系统，包括：接收第一时间段内的物流数据处理的请求；判断第一时间段内的所述请求的数目是否超出该第一时间段内所能执行的第一阀值；当判断所述请求的数目超出所述第一阀值时，判断超出所述第一阀值的请求的数目是否超出等待阀值；当超出所述第一阀值的请求的数目未超出所述等待阀值时，将所述超出所述第一阀值且未超出等待阀值的请求加入等待队列；当超出所述第一阀值的请求的数目超出所述等待阀值时，拒绝所述超出等待阀值的请求。本申请实施例通过设置等待队列，实现了容纳更高的瞬时流量，避免了现有技术将超出热点队列限流值的请求直接拒绝的缺陷。

同时现有的限流算法，采取的是一段时间内的发送数量与阈值对比，这样存在两个时间段分别不超过阈值，但是两个时间段之间的时间段可能超过阈值的情况。

发明内容

本发明的目的在于提供一种基于缓存队列的滑动窗口限流的实现方法，解决分布式环境下的流量控制问题难度偏大，特别是现有的限流算法，采取的是一段时间内的发送数量与阈值对比，这样存在两个时间段分别不超过阈值，但是两个时间段之间的时间段可能超过阈值的情况。

为解决上述技术问题，本发明采用如下技术方案：

一种基于缓存队列的滑动窗口限流的实现方法，其特征在于：它是基于redis缓存中间件+lua脚本的滑动窗口限流的实现方法，具体步骤如下：

步骤1：设置自定义阈值，限制限流条件为N个/M秒；

步骤2：Redis中创建滑动窗口，其中队列元素的值为请求时间；该创建滑动窗口即流量控制队列；

步骤3：当前时间批次X个，载入lua脚本，判断此批X个是否被限制；X应小于队列长度；

步骤4：被限制则继续轮循，返回上一步，否则则继续后续程序逻辑。

所述的基于缓存队列的滑动窗口限流的实现方法，其特征在于：所述步骤1中，设置自定义阈值的具体方法如下：

以配置项的方式将自定义阈值存放于数据库中，程序启时刷新到redis缓存中，保证程序处理过程中能获取到这个参数，且可以实时修改。

所述的基于缓存队列的滑动窗口限流的实现方法，其特征在于：所述步骤3中，判断此批X个是否被限制的具体步骤为：

步骤3.1：流量控制队列中取出第N-X+1个元素，用其值与当前时间做差；

步骤3.2：判断时间差与阈值M的大小关系；

步骤3.3：小于M，则当前批次X个被限制；

步骤3.4：大于M，则允许当前批次X进行下一步逻辑；