[发明专利]一种服务器过载判断方法及服务器

说明书

本发明公开一种服务器过载判断方法及服务器，其中方法包括：服务器当接收到服务请求时，为该服务请求生成相应的任务；根据所述服务器中多个线程的空闲状态，为所述任务分配线程；根据所述服务器在同一时刻的活跃线程数是否大于线程阈值判断所述服务器是否处于饱和状态；根据所述服务器饱和状态信息，将所述服务器切换到过载状态。本发明基于同时正在执行任务的线程数进行过载判断，能够避免无法及时启动过载处理预案的问题，不需要频繁地更改阈值也能保持较高的机器资源利用率，达到最优的判断效果，也有利于降低运维的复杂性。

技术领域

本发明涉及一种服务器过载判断方法及服务器，属于服务器过载保护技术领域。

背景技术

对于提供如地图搜索服务等实时在线服务的服务器，既要保证最大限度的利用机器资源提供能力范围内的服务，又需要有自我保护机制，确保服务器自身不会因为服务请求数量超出自己能力范围而垮掉。为此，提供这种服务的服务器应当具备过载判断功能，以判断收到的服务请求是否超出服务器自身的负载能力，如果超出则判断为发生了过载，需要采取相应的过载处理预案，如触发容灾机制、降级限流等。

现有的过载判断机制主要有如下几种：

1、基于当前服务容量的判断机制

这种机制根据服务器的当前服务容量设定一个固定的阈值，当收到的服务请求超过该阈值时，表明此时服务器没有足够的服务容量来满足该请求，据此判断为发生了过载。其中的服务容量可以表示为系统可以同时承载的并发用户数或每秒查询率(Query PerSecond，简称：QPS)。

然而，现有这种机制的主要缺点在于：一方面，随着服务的不断升级，升级过程中的性能会得到优化，从而也会带来服务容量的提升；而另一方面，服务升级过程中还会随着算法的升级导致计算复杂性变高，这又会造成服务容量的下降。这两种因素相互作用，使得服务器的服务容量总处在不断变化之中。如果总是随着服务容量的变化而不断地调整阈值，则会带来运维的复杂性；但如果总是设定一个比较保守的阈值，又会大幅降低机器资源的利用率，因此很难达到最优的效果。

2、基于队列状态的判断机制；

当多个服务请求到达时，如果服务器不能及时处理则需要将这些服务请求进行排队形成队列，按先后顺序依次进行处理。然而，当队列中的某些服务请求长时得不到处理时，则认为该队列发生了拥塞时，如果拥塞状态的持续时间超过了预定阈值，则判断为发生了过载。

然而，现有这种机制的主要缺点在于：由于这种机制当判断出发生了过载时，服务请求的队列已经发生了拥塞，服务器处理这些服务请求都力不从心，更没有余力去启动相应的过载处理预案，从而造成预案启动不及时。如果为了解放服务器能力而舍弃部分服务请求，则会影响用户体验。

3、基于CPU利用率的判断机制

这种机制预先设定一个阈值，当CPU利用率超过该阈值时，则判断为发生了过载。

然而，现有这种机制的主要缺点在于：CPU利用率总是随着计算量的变动而不断变化，而预设的阈值又不可能随着CPU利用率的变动而及时调整，所以这种判断机制的稳定性很差，经常会发生误判，从而导致反复在过载与未过载之间过度频繁地切换。

发明内容

鉴于现有技术中存在的技术缺陷和技术弊端，本发明实施例提供一种服务器过载判断方法，能够更加准确地判断出服务器的过载状态，既保证过载处理预案的正常启动，又使服务器的机器资源得到充分利用。

本发明一方面提供一种服务器过载判断方法，其中包括：

服务器当接收到服务请求时，为该服务请求生成相应的任务；

根据所述服务器中多个线程的空闲状态，为所述任务分配线程；

根据所述服务器在同一时刻的活跃线程数是否大于线程阈值判断所述服务器是否处于饱和状态；