[发明专利]动态调节的QPS控制方法、系统、设备及存储介质

说明书

本发明属于互联网技术领域，公开了一种动态调节的QPS控制方法、系统、设备及存储介质，包括以下步骤：获取流量发送接口的当前QPS；获取流量发送接口在预设时间长度内发送的http请求的超时率和错误率；根据http请求的超时率和错误率，调节并更新流量发送接口的当前QPS。网关中台系统从外部流量变化和内部业务系统的超时率和错误率就可以动态的调节QPS，程序化的调节更为智能和合理，无需人工过度的参与，可以有效的解决现有网关中台系统中，人工调节QPS配置所带来的性能损耗和人工调节QPS数值工作的复杂性，降低人工配置的复杂度，提升系统的鲁棒性。

技术领域

本发明属于互联网技术领域，涉及一种动态调节的QPS控制方法、系统、设备及存储介质。

背景技术

在互联网Web应用开发中，QPS(Query Per Second，每秒查询率)是衡量系统性能好坏至关重要的一个指标。尤其是在分布式高并发系统中，QPS的高低决定了整个系统可以承载的用户量和请求数的大小。

在程序化广告网关中台系统中，所有的下游业务系统都会接入到网关中台系统中，网关中台系统负责下发流量到下游的业务系统中。在整个业务环节过程中，下游业务系统为了保证自身系统的稳定性和对于流量需求量的大小，会要求网关中台系统设置QPS，即每秒下发到业务系统的请求量。QPS大小的设置决定了业务系统能接受到的流量的大小，QPS设置过大，业务系统接受到的流量变大了，但是，增大了业务系统的负载，QPS设置过小，业务系统接受到流量请求就会变少，影响业务发展。所以，对于QPS合理的设置对于业务自身的发展和业务系统的稳定性具有重要的价值。

现有的网关中台系统中，QPS的设置一般都是通过人为设置一个固定的值，例如：1000。这个值由下游业务进行评估得出。固定QPS设置存在以下几个问题：1、对业务系统具有破坏性。业务系统是随着业务的增长而升级迭代的，随着业务的缩减而收缩的(为了保证业务服务器的成本)。当业务服务器进行扩容的时候，如果QPS保持不变，那将会损失一部分流量，影响业务增长；当业务服务器进行缩减的时候，业务系统的整体吞吐量会下降，如果QPS不变，将会给业务服务器造成高负载，甚至击垮业务系统。2、运营工作复杂。互联网流量请求是时刻变化的，运营需要根据流量的变化来手动调整QPS，而调整的具体数值又需要参考服务器性能表现，人工设置是一个复杂的过程，浪费人力和时间。

发明内容

本发明的目的在于克服上述现有技术中，人工设置QPS会导致对业务系统造成破坏、运营工作复杂以及效率低的缺点，提供一种动态调节的QPS控制方法、系统、设备及存储介质。

为达到上述目的，本发明采用以下技术方案予以实现：

本发明第一方面，一种动态调节的QPS控制方法，包括以下步骤：获取流量发送接口的当前QPS；获取流量发送接口在预设时间长度内发送的http请求的超时率和错误率；根据http请求的超时率和错误率，调节并更新流量发送接口的当前QPS。

优选的，所述获取流量发送接口在预设时间长度内发送的http请求的超时率的具体方法为：在http请求中添加最大超时时间；获取流量发送接口在预设时间长度内发送的http请求中各http请求的响应状态码，根据各http请求的响应状态码得到各http请求的响应时间；初始超时请求次数为0，当http请求的响应时间超过该http请求的最大超时时间时，超时请求次数加1；以超时请求次数占在预设时间长度内发送的http请求的总数的比例为超时率。

优选的，所述获取流量发送接口在预设时间长度内发送的http请求的错误率的具体方法为：获取流量发送接口在预设时间长度内发送的http请求中各http请求的响应状态码，根据各http请求的响应状态码得到各http请求的响应状态；初始异常请求次数为0，当http请求的响应状态为异常时异常请求次数加1；以异常请求次数占在预设时间长度内发送的http请求的总数的比例为错误率。

优选的，所述预设时间长度为1分钟。