[发明专利]负载均衡方法、设备及存储介质

说明书

本申请提供了一种负载均衡方法、设备及存储介质，可用于人工智能领域或其他领域。该方法包括基于哈希函数构建带权的哈希环，将多个服务节点映射到哈希环上，对服务节点相应的权重值进行初始化；基于权重值为每个服务节点分配虚拟节点，基于哈希函数将虚拟节点映射到哈希环上，并确定服务节点和虚拟节点在哈希环中对应的哈希值；响应于目标任务请求，获取服务节点的负载状态，在负载状态满足预设条件时，为服务节点重新分配虚拟节点；基于目标任务请求对应的哈希值，从服务节点和虚拟节点中确定出目标节点，以处理目标任务请求。通过本申请的方法可以实现提高请求处理效率和系统稳定性的技术效果。

技术领域

本申请涉及人工智能领域，尤其涉及一种负载均衡方法、设备及存储介质。

背景技术

随着互联网技术的日益发展，在向客户端提供服务时，为了提高系统的负载能力，通常采用负载均衡方法。负载均衡指将网络请求或者其他形式的任务请求均摊到不同的服务器上运行，例如FTP服务器、Web服务器、企业核心应用服务器和其他主要任务服务器等，从而避免部分服务器压力过大，而另一些服务器比较空闲的情况。

现有的负载均衡方法大多采用的方式为如轮转方法、加权轮转方法等的静态负载均衡方法，以固定的概率分配任务请求，不考虑服务节点的执行状态，或者如最小连接法、加权最小连接法等的动态负载均衡方法，以服务节点的负载状态来决定任务请求的分配，通过为每个服务节点分配一个权重，为权重更高的服务节点分配更多的任务请求。

由于现有的负载均衡方法采用的方式较为单一，任务请求的分配未考虑服务节点的执行状态，无法根据执行任务请求得到的反馈确定每个服务节点的权重，也无法基于对任务请求的分析，判断是否需要为服务节点分配虚拟节点，以避免出现任务请求分布不均匀导致服务节点负载过高的情况，影响系统的处理效率和稳定性。因此，现有技术中的负载均衡方法存在请求处理效率和系统稳定性低的技术问题。

发明内容

本申请提供一种负载均衡方法、设备及存储介质，用以解决现有的负载均衡方法请求处理效率和系统稳定性低的技术问题。

第一方面，本申请提供一种负载均衡方法，包括：

基于哈希函数构建带权的哈希环，将多个服务节点映射到哈希环上，对服务节点相应的权重值进行初始化；其中，服务节点与服务器一一对应；

基于权重值为每个服务节点分配虚拟节点，基于哈希函数将虚拟节点映射到哈希环上，并确定服务节点和虚拟节点在哈希环中对应的哈希值；

响应于目标任务请求，获取服务节点的负载状态，在负载状态满足预设条件时，为服务节点重新分配虚拟节点；

基于目标任务请求对应的哈希值，从服务节点和虚拟节点中确定出目标节点，以处理目标任务请求。

可选地，获取服务节点的负载状态，在负载状态满足预设条件时，为服务节点重新分配虚拟节点，包括：

基于预设时间间隔持续获取服务节点的负载状态；

在负载状态满足预设条件时，基于负载状态确定每个服务节点的当前权重值，基于当前权重值为服务节点重新分配虚拟节点。

可选地，获取服务节点的负载状态，在负载状态满足预设条件时，为服务节点重新分配虚拟节点，包括：

基于预设时间间隔持续获取服务节点的负载状态；其中，负载状态用于表征服务节点执行历史任务请求所需的平均执行时长；

根据哈希环中的服务节点各自对应的平均执行时长之和确定总体执行时长；

将总体执行时长与服务节点的数量之比确定为总体平均执行时长；

在任一服务节点的平均执行时长与总体平均执行时长的差异水平满足预设条件时，基于平均执行时长确定相应的每个服务节点的当前权重值，基于当前权重值为服务节点重新分配虚拟节点。