[发明专利]使用张量在分布式计算系统中进行矢量化资源调度的方法和装置

说明书

提供了一种使用具有统一数据类型的多维分层数组进行矢量化资源调度的方法和装置。根据各实施例，在调度上下文中，资源层次结构可以表示为统一数据类型的多维数组。该数据结构称为张量。在各实施例中，张量可以用于对资源使用量、请求的资源、资源容量、租户资源使用量等中的每一个进行建模。提供了张量调度操作(例如，张量调度算法)以利用该资源模型。一些实施例可以利用GPU和张量处理单元等专用硬件来加速所述张量调度操作。

相关申请交叉引用

本申请要求于2019年9月19日递交的申请号为16/575,763、发明名称为“使用张量在分布式计算系统中进行矢量化资源调度的方法和装置(Method and Apparatus forVectorized Resource Scheduling In Distributed Computing Systems UsingTensors)”的美国专利申请案的优先权，其全部内容通过引用结合在本申请中。

技术领域

本发明涉及分布式计算系统中的资源调度，尤其涉及一种使用张量在分布式计算系统中进行资源管理和调度的方法和装置。

背景技术

在分布式计算系统中，资源调度器将工作请求(即，待执行的工作请求)与完成该工作所需的分布式计算系统的资源进行匹配。换言之，资源调度器将分布式计算系统中的资源分配给一个或多个工作请求。调度之后，可以对分配的资源‘提出’(即，由分配的资源执行)工作请求。

分布式计算系统接收大量工作请求，并且管理和调度大量资源。进一步地，分布式计算系统接收的工作请求的数量以及分布式计算系统中的资源的数量不断增加。由于工作请求和资源的数量较大且不断增加，经常需要对资源管理和调度进行管理，使得资源调度器能够满足资源调度需求。为了管理不断增加的工作请求以及资源管理，需要有效的并行化技术，因为在计算上难以在许多时间间隔内将许多资源请求与许多可消耗资源(例如，CPU、存储器)进行匹配。用于进行资源管理和调度的现有方法和系统，甚至包括使用并行化的技术，都需要提高效率。因此，需要一种方法和装置来解决现有技术中的一个或多个问题。

提供该背景信息是为了揭示申请人认为可能与本发明相关的信息。不必有意承认，也不应该解释任何前述信息构成针对本发明的现有技术。

发明内容

实施例的目的在于提供一种用于在分布式计算系统中进行矢量化资源管理和调度的方法和装置，所述方法和装置涉及使用张量(具有统一数据类型的多维数组)来表示资源请求，并在调度上下文中将资源的层次结构表示为张量。

根据实施例，提供了一种用于在分布式计算系统中进行资源管理和调度的方法。所述方法包括：使用一个或多个资源张量表示所述分布式计算系统中资源的可用性或资源的使用量；接收一个或多个资源请求，每个资源请求指定所述分布式计算系统中满足工作请求所需的资源。所述方法还包括：将所述资源请求表示为一个或多个请求张量；根据所述一个或多个资源张量和所述一个或多个请求张量，调度所述分布式计算系统中的资源。

在一些实施例中，所述方法还包括：使用一个或多个容量张量表示所述分布式计算系统中的所述资源的总量；进一步根据所述一个或多个容量张量，调度所述分布式计算系统中的资源。

在一些实施例中，所述方法还包括：在调度期间，基于所述一个或多个请求张量中的值，更新所述一个或多个资源张量以响应于条件。所述条件是以下各项中的一个：对一个或多个可用资源的子集提出所述工作请求；完成需要所述一个或多个资源的所述工作请求；或释放所述工作请求所请求的所述一个或多个资源。