[发明专利]业务调度方法及装置

说明书

本申请实施例提供一种业务调度方法和装置，该方法应用于装置中，该装置包括处理器，处理器包括M个处理器核，M为大于2的整数，方法包括：当处理器进入低负载模式时，计算运行中的多个业务请求所需的处理器核的数量N，N为大于等于1的整数，并且N<M；在N个处理器核上分发多个业务请求。实施本申请实施例，可以提高业务请求的处理效率，并节省处理器资源。

技术领域

本申请涉及网络技术领域，尤其涉及一种业务调度方法及装置。

背景技术

在对多个网络业务进行处理时，为了提高业务执行的并发度并提升网络资源的利用率，可以使用负载均衡策略来将业务请求分发给不同的业务处理线程来进行处理。即将多个业务请求分摊到多个操作单元上来共同完成对多个业务请求处理的工作任务。

在业务请求较少的情况下，部分业务处理线程空闲，会主动睡眠来释放处理器资源，以节省资源。当新的业务请求需要空闲的业务处理线程进行处理时，首先需要唤醒业务处理线程。唤醒业务处理线程的过程需要向CPU系统进行申请，然后CPU系统对申请进行允许后，业务处理线程运行起来后才可以对新的业务请求进行处理。

在业务请求负载较小的情况下，根据负载均衡策略，新的业务请求优先由空闲的业务处理线程来处理。因此，在业务请求负载较小的情况下较多的业务请求由休眠的业务处理线程来执行。然而，重新唤醒业务处理线程的过程需要消耗较长的时间，从而增加了整体业务处理的时延，降低了业务请求处理的处理效率。

发明内容

本申请公开了一种业务调度方法及装置，可以提高业务请求的处理效率，并节省处理器资源。

第一方面，本申请实施例提供一种业务调度方法，所述方法应用于业务调度装置中，所述业务调度装置包括处理器，所述处理器包括M个处理器核，M为大于2的整数，所述方法包括：当所述处理器进入低负载模式时，计算运行中的多个业务请求所需的处理器核的数量N，所述N为大于等于1的整数，并且N&lt;M；在N个所述处理器核上分发所述多个业务请求。

上述的业务调度方法中，在检测到处理器进入低负载模式的情况下，可以根据处理器中所运行的业务请求的数量来减少用于处理业务请求的处理器核的数量，从而减少在低负载模式下，处理器核的线程会频繁的执行睡眠、被唤醒和再睡眠的循环的情况，从而可以减少业务请求被处理所消耗的时间，可以减少整体业务处理的时延，提高业务请求处理的处理效率。

其中，业务调度装置判断处理器进入低负载模式的具体方式可以是：获取所述运行中的多个业务请求的并发度，以及所述运行中的多个业务请求的负载；当所述并发度低于预设的并发度阈值，并且所述运行中的多个业务请求的负载低于预设的负载阈值时，确定所述处理器进入所述低负载模式。

可选的，业务调度装置统计运行中的多个业务请求的并发度，具体可以是统计在预设周期T1内需要处理的业务请求的数量。

可选的，业务调度装置可以根据CPU系统处理压力集中时间段、系统中用户平均活跃时间等信息，通过数学方法推测出某一时刻CPU系统中运行中的业务请求的并发度。

其中，运行中的多个业务请求的负载可以是在预设周期内，运行中的多个业务请求处理完成的时间占该预设周期的时长比例。可以根据实际业务场景中对精确度和效率的要求来确定预设周期T1的取值。

可选的，获取运行中的多个业务请求的负载可以包含两种方式：方式一，可以包含步骤：步骤一：业务调度装置可以统计运行中的多个业务请求的实际执行时间。步骤二：业务调度装置可以计算处理器中这运行中的多个业务请求的负载。方式二：直接统计运行中的多个业务请求中每个业务请求的负载，即每个业务请求的运行时间占该预设周期的时长比例。之后将多个业务请求中各个业务请求的负载叠加即得到这运行中的多个业务请求的负载。

在一种可能的实施例中，所述运行中的多个业务请求所需的处理器核的数量N与所述并发度正相关，与所述运行中的多个业务请求的负载正相关。