[发明专利]在电信产品中进行负载均衡的方法和设备

说明书

技术领域

本发明涉及通信领域，并且更具体地涉及电信产品中的负载均衡机制。

背景技术

ATCA(先进电信计算架构)是许多电信产品的重要硬件架构，具有成本低和灵活性高的特点。通常，一个ATCA基座托管了数十个刀片，多个相同的或者不同的应用可以运行在这些刀片上。所有基于ATCA架构的产品都必须考虑负载均衡和准入控制机制以实现所有这些刀片的处理器性能的有效使用。越来越多的应用部署在ATCA基座上，如何实现ATCA性能的最佳使用以及如何调度和均衡来自不同应用的请求时使得产品具有竞争力的关键点。

图1给出了典型的ATCA基座结构，该基座由两个管理所有其他刀片的控制刀片(A、B)、十个处理呼叫流量或主机数据的实时刀片(C、E、G、I、K、D、F、H、J和L)以及将所有这些刀片连接到一起与外部通信的交换刀片(S)组成。多个应用运行在相同的刀片上，并且对于每一个输入消息，需要确定哪一个服务器/刀片被分配用于处理该消息。来自不同应用和网络单元的请求具有完全不同的特征，因此它们对于这些刀片上资源的请求是不同的。我们要解决的问题是如何调度和均衡来自基于ATCA的基座上的多个应用的请求，以使得整个产品具有最佳鲁棒性和性能。

如上所述，单个输入消息可能会耗尽ATCA产品的刀片的所有资源。另外，ATCA产品的单个刀片的负载可能会使得整个产品的服务质量降低到与过载的刀片相同。也就是说，如果有一个刀片具有服务质量1E-2，也就是说，100个呼叫里有一个呼叫失败，那么，无论当前应用了什么样的负载均衡算法(CPU负载算法、RR等)以及无论其他刀片具有多么好的性能。整个产品将具有服务质量1E-2。本发明提出基于资源预留的流量分配算法来解决这个问题并且即使输入消息的成本变化很大，也要确保产品的服务质量并优化性能利用率。

较好的负载均衡系统具有较高的流量性能和鲁棒性。最常用的流量分配算法的目的就在于使得服务器的负载均衡。这些常用的算法主要包括轮询调度算法、加权的轮询调度算法以及CPU负载感知算法。所有这些算法都基于一个隐含的假设进行工作，即所有输入消息具有类似的处理时间以及每个消息都需要小的和类似的CPU成本。如果有某种类型的输入消息需要大的CPU使用率在几分钟内进行处理，则所有上述算法将导致系统过载。举一个例子，典型的Diameter消息通常需要数十毫秒、小于0.1％的CPU使用率在IMS网络单元内进行处理。网络单元通常被设计在低于CPU使用率的工作70％时处理忙时流量。但是IMS网络中来自接入网关控制功能(AGCF)到归属用户服务器(HSS)的注册请求可以代表成千上万的端点进行注册。当HSS收到这个注册消息时，它需要向AGCF推送与这些成千上万的用户相关的数据并且即使采用高于30％CPU的使用率也不能保证在数分钟内完成这些数据的下载。在这种情况下，如果还有其他类型的请求在繁忙时段运行，注册消息的输入将会导致过载状态下的刀片托管HSS应用程序处于过载状态。为了避免这种过载状态，运营商通常过度设计他们的系统，使得整个系统在繁忙时段以40％的CPU使用率运行，并且当来自AGCF的一个注册消息到达时，它可以用70％的CPU使用率进行处理。但是，这意味着如果网络中只有一个AGCF在几个月内请求一次注册，30％的资源必须留给它。显然的，这是一种资源的浪费。

这个问题不止是在部署PSTN仿真服务时存在。对于呈现业务来说，也需要面对这个问题。当呈现方的状态改变时，它使用PUBLISH方法来告知呈现服务器这一改变。结果，呈现服务器将把呈现方的状态改变通知给所有订购的观察方。呈现服务能产生大量的信令流量，因为一个呈现方的状态改变将导致发往观察方的多个通知消息。ATCA基座中这类猝发的资源使用由于其事务特性必须共同位于相同的刀片上，并且当前的调度算法不能确保以较好的质量服务这些请求，也不能确保整个基座下性能的最佳使用。

下面将举例说明当前的几种常用算法。

1)轮询调度算法

轮询调度(RR)算法是一种静态负载均衡算法，并没有特别考虑到分配新流的各刀片的当前剩余性能，而是一味地试图做到在如何分配工作量上不偏不倚。这是一种循环的策略，其中刀片按顺序被循环选择。

考虑配置多个应用程序共同位于ATCA的一个刀片上。每个刀片支持的应用程序是不一样的。他们是不对称配置的刀片。