[发明专利]一种基于改进一致性哈希的服务器端负载均衡方法

说明书

一种基于改进一致性哈希的服务器端负载均衡方法，通过该负载均衡方法，能够根据服务器性能动态调节服务器集群中的节点负载。该方法根据服务器集群中节点自身的性能以及在一个周期连接数构建虚拟节点，从而解决目前基于一致性hash的负载均衡系统的负载不均匀的问题。具体步骤如下：路由服务器周期性地维护服务器集群的节点个数和性能数据，根据节点的性能比和节点数量，计算每个节点需要构建的虚拟节点的数量；将集群节点和虚拟节点根据hash算法构建hash环；路由服务器周期性地维护每个集群节点的连接数；每个周期过后根据相同性能值下连接数的差异，计算虚拟节点数量冗余值；周期性重复上述五个步骤，更新虚拟节点的数量，重建hash环。

技术领域

本发明属于Web服务器负载均衡领域，特别是涉及一种基于改进一致性哈希的服务器端负载均衡方法。

背景技术

随着电子商务的快速发展，传统单服务器的B/S端架构的电子商务网站及系统早已无法应对如今高并发的冲击，服务器一旦因此宕机，都会对用户及和电子商务企业带来巨大的不便与损失。在这个电商用户量爆炸的时代，确保大型网站在高并发和高吞吐量的冲击下不受影响，显得尤为重要，而服务器集群则是应对这一场景的重要的技术的手段。

目前基于服务器集群的负载均衡技术迅速发展，相应的负载均衡算法种类繁多。但是每个系统所在的环境，面对的用户种类，访问手段多种多样，每个服务器节点所面对的用户并发量的分配都是不一样的。如何根据服务器集群中节点的不同性能以及短时间内节点的真实负载不断调整负载均衡策略，是当前该领域的负载均衡方法需要解决、优化的核心问题。

目前，使用最多的两种负载均衡技术分别是硬负载均衡和软负载均衡。所述硬负载均衡表示采用负载均衡器的方法，使用硬件达到负载均衡。所述软负载表示在反向代理服务器中嵌入负载均衡算法，通过算法来实现均衡调度的功能。

专利CN110311957A公开了一种基于连接请求的负载均衡方法，将客户端发送的连接请求进行分级，并将服务器集群中的节点也进行分级映射，确保不同的级别的连接请求落到不同的服务器集群的节点中。对于高并发的场景，可以做到高性能服务器处理更多的请求。

专利CN110099083A公开了一种基于二次负载均衡的智能调度方法，在服务器集群进行首次负载均衡调度之后，获取服务器集群的总运行状态和各个服务器节点的单运行状态，回收已分配但未执行的任务重新分配，可以更加合理的利用服务器资源，使得负载均衡策略更加可控和灵活。

上述负载均衡方法都在一定程度上优化了现有的一些负载均衡方法，针对不同的并发场景和不同的服务器性能做到负载均衡策略的灵活与可控。但是，对于并发场景多变和服务器集群节点的性能差异以及频繁的增删节点个数同时存在的场景方面考虑不足。对于已经分配好的请求，若重新分配后会落在其他的集群节点上，不满足负载均衡策略的单调性，使得某个单一节点压力过大，不致过载。

发明内容

本发明提出了一种基于改进一致性哈希的服务器端负载均衡方法，用于解决现有的负载均衡方法灵活性和可控性过多低，对于不同的服务器性能和并发场景，负载不够均衡的情况。采用虚拟节点来改进一致性hash，同时根据服务器集群中节点的性能以及周期内的真实负载不断地调整虚拟节点的数量，使得负载均衡方法更加智能且高效。

一种基于改进一致性哈希的服务器端负载均衡方法，包括以下具体步骤：

步骤1，路由服务器周期性地维护服务器集群的节点个数和性能：所述路由服务器为反向代理服务器，用来分发前端传来的并发请求；所述服务器集群的节点性能由服务器的CPU、运行内存和网络带宽三个参数计算得出；

步骤2，根据节点的性能比和节点数量，计算每个节点需要构建的虚拟节点的数量；

步骤3，将集群节点和虚拟节点根据hash算法构建hash环；

步骤4，路由服务器周期性地维护每个集群节点的连接数；