[发明专利]一种适用于大型分布式系统提高响应速度的方法

说明书

本发明涉及分布式系统开发技术领域，特别是指一种适用于大型分布式系统提高响应速度的方法。本发明所述的方法是服务器依赖的后台服务运行多个副本，先将服务请求由其中某个副本进行响应；如果在设定的等待时间没有结果返回，则由另外的副本对服务进行响应；最后分布式系统的服务端向前端返回结果。本发明运用重复发送请求和取消请求的方法，能在很大程度上改善延时的长尾效应，提高分布式系统的响应速度，同时并未增加太多开销；可以用于大型分布式系统服务响应方式的控制。

技术领域

本发明涉及分布式系统开发技术领域，特别是指一种适用于大型分布式系统提高响应速度的方法。

背景技术

随着分布式应用的发展，分布式系统的规模不断提高，而用户对体验的要求逐步提高，在大型分布式系统中处理用户的一次请求需要返回丰富的信息，单一的服务调用已经不能满足需求；通常一个请求的处理需要多个子系统提供的服务参与其中，而同一个服务调用的响应时间有时候长有时候短，由于系统的复杂性提升，响应时间长度是无法预测的，这种现象就是长尾现象，会导致整体用户体验的下降，目前一般采用增加服务占用资源的方式来提高响应速度，在云的环境下，一般步骤如下：

1、对每个应用的负载进行检测；

2、发现某个应用的负载较高时，把同一物理机下的其他虚拟机迁移到其他物理机上。

上述方法通过迁移的方式腾出资源提高响应速度的目的，但是存在以下问题：

1、可能并不能起作用，网络负载高导致的响应速度低通过执行上述方法并不能解决，反而由于迁移导致网络拥堵进一步加剧；

2、只能短时间内提高单一服务的响应速度，但是对于分布式系统整体而言，把低负载的虚拟机迁移到其他物理机，也会降低其他服务的响应速度；

因此，需要设计一种无需增加太多开销提高分布式系统的响应速度的方法。

发明内容

本发明解决的技术问题在于提出一种适用于大型分布式系统提高响应速度的方法。

本发明解决上述技术问题的技术方案是：

所述的方法是服务器依赖的后台服务运行多个副本，先将服务请求由其中某个副本进行响应；如果在设定的等待时间没有结果返回，则由另外的副本对服务进行响应。

所述的方法具体包括以下步骤：

步骤1：分布式系统的服务器端依赖的后台服务运行多个副本，并给每个副本提供一个编号，供服务端随机调用；

步骤2：分布式系统的服务端接收到前端的请求以后，根据分配算法选择一个依赖的后台服务的副本N，向其发送调用请求，并记录调用的副本地址A，同时记录调用请求的发起时间T1；

步骤3：分布式系统的服务端定时检查副本N是否返回结果，如果没有，那么记录当前时间T2，并计算调用请求的已逝去时间T＝T2-T1，否则，直接执行步骤6；

步骤4：如果T小于预定的等待时间阈值T0，那么执行步骤3，继续执行定时检查；否则，分布式系统服务端再随机选择后台服务的另外一个副本N0,向此副本发送相同的请求，请求中包含上一个请求发往的副本的地址A，同时记录调用的副本地址A0；