[发明专利]服务调度方法、装置、设备以及存储介质

说明书

本公开提供了一种服务调度方法、装置、设备以及存储介质，涉及云服务技术领域，可应用于云平台。该方法包括：接收至少一个客户端发送的并发请求；为并发请求中的每个请求从预先生成的多条流水线中确定用于处理该请求的目标流水线；响应于确定目标流水线对请求的预估处理时间超过该请求的预设超时时间，获取该请求在目标流水线中的预估排队时间；将预估排队时间发送给发送该请求的客户端，以使客户端根据预估排队时间调整请求发送策略。本公开提供的方法充分利用了服务器资源以对前端并发请求进行处理，从而提升了服务器对请求的处理效率。

技术领域

本公开涉及计算机技术领域，具体涉及云存储技术领域，尤其涉及服务调度方法、装置、设备以及存储介质。

背景技术

随着科技的发展，互联网的通信架构层出不穷，其中C/S(Client-Server，客户端-服务器)架构最为常见，即“客户端/服务器”模式。这种结构是将需要处理的业务合理地分配到客户端和服务器端，这样可以大大降低通信成本，然而对于单服务器的服务，当客户端不断增加的时候，服务器端就需要考虑多并发的问题。

发明内容

本公开提供了一种服务调度方法、装置、设备以及存储介质。

根据本公开的第一方面，提供了一种服务调度方法，包括：接收至少一个客户端发送的并发请求；为并发请求中的每个请求从预先生成的多条流水线中确定用于处理该请求的目标流水线；响应于确定目标流水线对请求的预估处理时间超过该请求的预设超时时间，获取该请求在目标流水线中的预估排队时间；将预估排队时间发送给发送该请求的客户端，以使客户端根据预估排队时间调整请求发送策略。

根据本公开的第二方面，提供了一种服务调度装置，包括：接收模块，被配置成接收至少一个客户端发送的并发请求；确定模块，被配置成为并发请求中的每个请求从预先生成的多条流水线中确定用于处理该请求的目标流水线；获取模块，被配置成响应于确定目标流水线对请求的预估处理时间超过该请求的预设超时时间，获取该请求在目标流水线中的预估排队时间；发送模块，被配置成将预估排队时间发送给发送该请求的客户端，以使客户端根据预估排队时间调整请求发送策略。

根据本公开的第三方面，提供了一种电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行如第一方面中任一实现方式描述的方法。

根据本公开的第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，计算机指令用于使计算机执行如第一方面中任一实现方式描述的方法。

根据本公开的第五方面，提供了一种计算机程序产品，包括计算机程序，计算机程序在被处理器执行时实现如第一方面中任一实现方式描述的方法。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1是本公开可以应用于其中的示例性系统架构图；

图2是根据本公开的服务调度方法的一个实施例的流程图；

图3是根据本公开的服务调度方法的另一个实施例的流程图；

图4为不做处理时的并发请求的示意图；

图5为服务器并发处理请求的示意图；

图6为服务器对并发请求处理后的示意图；

图7是根据本公开的服务调度方法的一个应用场景的示意图；

图8是根据本公开的服务调度装置的一个实施例的结构示意图；