[发明专利]函数服务的调度方法、系统、计算设备和存储介质

说明书

本申请提供了一种函数服务的调度方法、系统、计算设备和存储介质，属于计算机技术领域。该方法包括：接收对目标函数服务的请求，根据目标函数服务对应的熔断机制，确定目标函数服务的至少一个实例发生熔断。然后在预热实例池中，选取至少一个预热实例，设置为目标函数服务的实例。后续将对目标函数服务的请求，调度至目标函数服务的实例。采用本申请，可以提升处理函数服务的请求的速度。

技术领域

本申请涉及计算机技术领域，特别涉及一种函数服务的调度方法、系统、计算设备和存储介质。

背景技术

函数服务(function as a service，FaaS)是可以直接部署和执行的一段业务逻辑代码，其可以直接在实例中运行，实例指一个虚拟服务器或者一种计算资源。函数服务可以同时运行多个实例。

相关技术中，一个函数服务包括多个实例时，由调度器按照负载均衡的方式，将对函数服务的请求调度至不同的实例。

在对函数服务的请求过多的情况下，会导致各个实例需要处理的请求比较多，造成处理请求的速度过慢。

发明内容

本申请提供了一种函数服务的调度方法、系统、计算设备和存储介质，用以提升处理对函数服务的请求的速度。技术方案如下：

第一方面，本申请提供了一种函数服务的调度方法，该方法包括：

接收对目标函数服务的请求；根据目标函数服务对应的熔断机制，确定目标函数服务的至少一个实例发生熔断；将预热实例池中的至少一个预热实例，设置为目标函数服务的实例，其中，预热实例池包括多个预热实例，每个预热实例为已准备完成运行环境的实例；将请求调度至目标函数服务的实例。

本申请所示的方案，目标函数服务为任一函数服务，对目标函数服务的请求为目标函数服务的业务请求。接收对函数服务的请求，分析该请求的元数据，确定是对目标函数服务的请求。在将对目标函数服务的请求，调度至目标函数服务的实例时，获取存储的目标函数服务对应的熔断机制。基于该熔断机制判断目标函数服务的实例是否发生熔断，在确定至少一个实例满足熔断机制时，确定该至少一个实例发生熔断。确定目标函数服务的至少一个实例发生熔断时，可以在预热实例池中选取至少一个预热实例。将选取的至少一个预热实例，设置为目标函数服务的实例。对应目标函数服务新增了实例，可以将对目标函数服务的请求，调度至新增的实例，新增的实例处理对目标函数服务的请求。这样，可以及时地判断是否需要新增函数服务的实例，在确定需要新增函数服务的实例时，由于可以从预热实例池中，分配预热实例给函数服务，而不需要对实例进行冷启动，也可以减少新增实例带来的时延，进而可以大概率的保证处理函数服务的请求的速度。

在一种可能的实现方式中，该方法还包括：根据目标函数服务对应的计算资源，对目标函数服务的请求量和/或对目标函数服务的请求频率，确定目标函数服务对应的待删除实例；删除待删除实例。

本申请所示的方案，目标函数服务对应的计算资源为目标函数服务在可使用的所有资源，或者为执行函数服务的调度方法的系统负载的所有函数服务可使用的计算资源总和。可以根据目标函数服务对应的计算资源，对目标函数服务的请求量和/或对目标函数服务的请求频率，确定目标函数服务的待删除实例，待删除实例上未执行对目标函数服务的请求。然后删除该待删除实例。这样，可以及时的回收空闲资源。

在一种可能的实现方式中，该方法还包括接收用户通过用户界面(userinterface，UI)输入或者选择的目标函数服务对应的扩缩容策略；基于扩缩容策略，生成目标函数服务对应的熔断机制。

本申请所示的方案，用户可以通过UI，输入或者选择目标函数服务对应的扩缩容策略，该扩缩容策略用于生成目标函数服务对应的熔断机制，这样，可以更方便用户操作扩缩容。