[发明专利]请求调度方法和装置

权利要求书

1.一种请求调度方法，包括：

基于接入优先级向请求分配请求线程；

将所述请求发送到请求队列；以及

基于处理优先级从所述请求队列中选择要处理的请求。

2.如权利要求1所述的方法，还包括：

利用处理线程对所选择的请求进行处理。

3.如权利要求2所述的方法，还包括：

在将所述请求发送到所述请求队列之后，挂起所述请求线程；以及

在对所选择的请求的处理完成之后，唤醒向所选择的请求分配的请求线程。

4.如权利要求2所述的方法，还包括：

在将所述请求发送到所述请求队列之后，挂起所述请求线程；

在对所选择的请求的处理完成之后，将处理结果发送到结果队列；以及

唤醒向与所述结果队列中的每个结果相对应的请求分配的请求线程。

5.根据权利要求1所述的方法，还包括：

监测线程使用率；以及

基于所监测的线程使用率来调整线程池容量。

6.根据权利要求5所述的方法，其中，调整线程池容量包括：

当线程使用率高于第一预定阈值时，增大线程池容量直到线程使用率达到预定标准阈值；以及

当线程使用率低于第二预定阈值时，缩小线程池容量直到线程使用率达到所述预定标准阈值，

其中，所述第二预定阈值低于所述第一预定阈值。

7.根据权利要求5所述的方法，其中，所述线程是请求线程和/或处理线程。

8.根据权利要求2所述的方法，其中，所述处理线程是基于以下各项中的至少一项来分配的：所述请求的处理优先级、所述处理线程的总量、以及用于处理线程分配的预定限制条件。

9.一种请求调度装置，包括：

处理器；以及

存储器，用于存储指令，当所述指令被执行时使得所述处理器执行下述操作：

基于接入优先级向请求分配请求线程；

将所述请求发送到请求队列；以及

基于处理优先级从所述请求队列中选择要处理的请求。

10.如权利要求9所述的装置，其中，所述指令被执行时还使得所述处理器执行下述操作：

利用处理线程对所选择的请求进行处理。

11.如权利要求10所述的装置，其中，所述指令被执行时还使得所述处理器执行下述操作：

在将所述请求发送到所述请求队列之后，挂起所述请求线程；以及

在对所选择的请求的处理完成之后，唤醒向所选择的请求分配的请求线程。

12.如权利要求10所述的装置，其中，所述指令被执行时还使得所述处理器执行下述操作：

在将所述请求发送到所述请求队列之后，挂起所述请求线程；

在对所选择的请求的处理完成之后，将处理结果发送到结果队列；以及

唤醒向与所述结果队列中的每个结果相对应的请求分配的请求线程。

13.根据权利要求9所述的装置，其中，所述指令被执行时还使得所述处理器执行下述操作：

监测线程使用率；以及

基于所监测的线程使用率来调整线程池容量。

14.根据权利要求13所述的装置，其中，调整线程池容量包括：

当线程使用率高于第一预定阈值时，增大线程池容量直到线程使用率达到预定标准阈值；以及

当线程使用率低于第二预定阈值时，缩小线程池容量直到线程使用率达到所述预定标准阈值，

其中，所述第二预定阈值低于所述第一预定阈值。

15.根据权利要求13所述的装置，其中，所述线程是请求线程和/或处理线程。

16.根据权利要求10所述的装置，其中，所述处理线程是基于以下各项中的至少一项来分配的：所述请求的处理优先级、所述处理线程的总量、以及用于处理线程分配的预定限制条件。