[发明专利]请求调度方法和装置

说明书

技术领域

本申请总体涉及移动网络通信领域，更具体地，涉及请求调度方法和装置。

背景技术

目前的业务支撑系统(包括客户关系管理系统(CRM)、业务运营支撑系统(BOSS)、经营分析系统(BAS)、业务支撑网运营管理系统(BOMC)等)大多采用模型-视图-控制器(MVC)架构，并采用NIO线程池接收处理请求，遵循先到先分配资源及先到先处理的原则，不考虑后端的处理能力，系统呈现无限接入及有限处理的现状。同时，对所有请求采取公平公正的处理方式，均等分配资源。当系统性能需要扩展时，需要人工完成机器申请、采购、安装、开通网络策略等流程。

发明内容

本申请的实施例提供了一种请求调度方法和装置，能够提高高并发系统的稳定性，动态调配资源，提高资源利用率。

第一方面，提供了一种请求调度方法，包括：基于接入优先级向请求分配请求线程；将请求发送到请求队列；以及基于处理优先级从请求队列中选择要处理的请求。

第二方面，提供了一种请求调度装置，包括：处理器；以及存储器，用于存储指令，当指令被执行时使得处理器执行下述操作：基于接入优先级向请求分配请求线程；将请求发送到请求队列；以及基于处理优先级从请求队列中选择要处理的请求。

在根据本申请实施例的请求调度方法和装置中，由于对业务服务的请求进行分段处理，将请求阶段和处理阶段分成独立的过程，并结合队列缓冲，将接入请求堆积在中间层的请求队列中，因此后端能够根据处理能力及请求处理优先级进行处理，从而能够保证高并发访问时系统的稳定性。同时，结合弹性调度平台，实现对用于处理请求的资源的扩缩容和动态调配，提高资源利用率。

附图说明

为了更清楚地说明本申请实施例的技术方案，下面将对本申请实施例中所需要使用的附图作简单地介绍，显而易见地，下面所描述的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1示出了根据本申请实施例的基于阶段性事件驱动架构(SEDA)和Docker的系统架构的示意性框图。

图2示出了根据本申请实施例的请求调度方法的示意性流程图。

图3示出了根据本申请实施例的请求调度装置的示意性框图。

图4示出了能够实现根据本申请实施例的请求调度方法的至少一部分的计算设备的示例性硬件架构的结构图。

具体实施方式

为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请的一部分实施例，而不是全部实施例。基于本申请的实施例，本领域普通技术人员在没有付出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

下面将详细描述本申请的各个方面的特征和示例性实施例。在下面的详细描述中，提出了许多具体细节，以便提供对本申请的全面理解。但是，对于本领域技术人员来说很明显的是，本申请可以在不需要这些具体细节中的一些细节的情况下实施。下面对实施例的描述仅仅是为了通过示出本申请的示例来提供对本申请的更好的理解。本申请不限于下面所提出的任何具体配置和算法，而是在不脱离本申请的精神的前提下覆盖了元素、部件和算法的任何修改、替换和改进。在附图和下面的描述中，没有示出公知的结构和技术，以便避免对本申请造成不必要的模糊。

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的实施方式；相反，提供这些实施方式使得本申请更全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。在图中，为了清晰，可能夸大了区域和层的厚度。在图中相同的附图标记表示相同或类似的结构，因而将省略它们的详细描述。

此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本申请的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本申请的技术方案而没有所述特定细节中的一个或更多，或者可以采用其它的方法、组元、材料等。在其它情况下，不详细示出或描述公知结构、材料或者操作以避免模糊本申请的主要技术创意。

需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。