[发明专利]无服务器计算环境中基于一致性哈希的缓存包调度优化算法

说明书

本发明公开了无服务器计算环境中基于一致性哈希的缓存包调度优化算法，针对现有无服务器计算平台中依赖大型软件包的无服务器函数启动慢的问题，使用一致性哈希算法和负载均衡算法相结合，将软件包缓存在对应的工作进程中；同时引入虚拟节点对一致性哈希算法进行优化，解决了一致性哈希算法中因节点过少导致哈希环偏斜最终引发节点雪崩的问题。本发明是一种适用于无服务器计算环境中大型微服务架构下的软件缓存包调度方法，能够有效提升无服务器函数的启动速度并实现负载均衡的效果，同时提升了无服务器平台的资源使用率。

技术领域

本发明涉及云计算技术领域，具体地指一种无服务器计算环境中基于一致性哈希的缓存包调度优化算法。

技术背景

云计算是与信息技术、软件、互联网相关的一种服务，这种计算资源共享池叫做“云”，云计算把许多计算资源集合起来，通过软件实现自动化管理，只需要很少的人参与就能让资源被快速提供。云计算的核心概念就是以互联网为中心，在网站上提供快速且安全的云计算服务与数据存储，让每一个使用互联网的人都可以使用网络上的庞大计算资源与数据中心。通常，它的服务类型分为三类，即基础设施即服务(IaaS)、平台即服务(PaaS)和软件即服务(SaaS)。

云计算发展到如今，轻“服务器”，重“服务”的趋势愈发明显。如今FaaS(功能即服务)，或称作无服务器计算是IaaS(基础设施即服务)演进的下一个阶段。它将底层基础架构从开发人员中分离出来，虚拟化了运行时(虚拟机的一种，一般指进程级别的虚拟机)和运营管理，使得无服务器计算的用户无需关心程序运行的服务器、虚拟机和底层基础架构，而可以只专注于应用程序本身。

无服务器计算托管服务提供商会实时为用户分配充足的资源，而不是让用户预先为专用的服务器或容量付费。无服务器计算并不是字面上的不需要服务器，而是立足于云基础设施之上建立新的抽象层，仅使用完成任务所需的非常精确的计算资源来执行开发人员编写的代码，不多也不少。当触发代码的预定义事件发生时，无服务器平台执行任务。最终用户不需要告诉无服务器提供商事件或者函数将发生多少次。函数每执行一次，客户就付一些钱。有些人认为函数即服务(功能即服务)或者事件驱动的计算是更好的名称。从基础架构角度看，它有不同的抽象层，而开发人员可以和这些抽象层进行互动。有裸机、虚拟机和容器。对于某些工作负载，服务商要抽象出所有的管理，以便开发者可以执行代码，而不用担心服务器的基础架构或者管理。

在无服务器计算平台中快速部署和执行无服务器函数对于微服务架构来说至关重要，但是，在大型微服务项目中依赖大型软件包或库的函数过于臃肿，启动速度缓慢。一种优化方法是在工作节点缓存这些软件包取代之前将函数和包捆绑在一起的方式，但是现有的无服务器平台的调度程序都是简单的负载均衡器，它们无法快速准确定位到之前缓存的包，导致无服务器函数启动效率非常低。部分无服务器计算平台在缓存软件包时会选择哈希算法去实现均匀的分配。使用传统的哈希算法当节点数量发生变化时，所有缓存的位置都会发生变化，这样就造成所有缓存在一定时间是失效的。

发明内容

本发明的目的在于克服现有技术的不足，提出一种无服务器计算环境中基于一致性哈希的缓存包调度优化算法，选用一致性哈希算法取代传统的哈希算法，并结合负载均衡算法，同时在一致性哈希算法中使用虚拟节点对算法进行优化，防止一致性哈希算法中因节点过少导致哈希环偏斜最终引发节点雪崩的问题。

为实现上述目的，本发明所设计的无服务器计算环境中基于一致性哈希的缓存包调度优化算法，其特殊之处在于，所述算法包括如下步骤：

1)获取无服务器计算环境中所有的工作进程W以及每个工作进程W对应的负载阈值T，W＝{w₁,…,w_n}，T＝{t₁,…,t_n}；

2)遍历运行无服务器计算函数所需的所有软件包，找出所需软件包中最大的软件包记为P；