[发明专利]一种自下而上的分布式调度系统及方法

说明书

一种自下而上的分布式调度系统及方法，系统包括全局调度器，存储和标识有分布式集群中具有任务请求类型的足够资源的子节点，接受来自各个子节点的本地调度器转发的调度任务请求，根据每个子节点的负载和任务的约束来做出调度决策；多个本地调度器，将任务安排在本地进行处理，如果本地调度器不满足调度要求时，本地调度器会将任务转发给全局调度器；全局控制存储单元，存储有本地调度器所转发的任务的信息。本发明设立了本地调度优先、全局调度为辅助的调度模式，满足强化学习中任务异构性的特点，对异构性任务也有很快的调度速度；在扩展上十分方便，将任务分派与任务调度完全分离，实现延迟最小化。

技术领域

本发明涉及仿真计算领域，具体的，涉及一种自下而上的分布式调度系统及方法，与传统的调度方法相比，处理任务的效率更高，任务的数量更大，可扩展性更好。

背景技术

随着人工智能技术的快速发展，新一代人工智能应用程序，例如强化学习，将不断与环境交互，并从这些交互之中学习。这些应用程序在性能和灵活性方面都对系统提出了新的和苛刻的要求。这就要求我们的调度方法能够以毫秒级的延迟每秒处理数百万个异构任务。

现在的调度模式大概有以下几种：轮转式调度、加权式调度、散列式调度、最少任务式调度、最低缺失式调度、最快响应式调度等。

轮转式调度方法就是简单地在一串节点中线性轮转，调度系统将新请求发给节点表中的下一个节点，如此连续下去。缺点是：对于分布式系统来说，这种调度方法的效率太低。

加权式调度方法就是根据节点的优先级或权值来分配负载，权值是基于各节点能力的假设或估计值。缺点是：这种方法只能与其他方法合用，是其他方法的一个辅助补充。

散列式调度方法就是通过单射不可逆的Hash函数，按照某种规则将请求发往集群节点。缺点是：对于分布式系统来说，这种方法效率低且不易扩展。

最少任务式调度方法就是管理节点纪录目前所有任务处理记录，把下一个新的任务请求发给当前处理任务最少的节点。缺点是：某些任务会消耗更多的节点资源，尽管集群中任务处理个数平衡了，但是处理量可能差别很大，处理个数无法真实的反应集群的负载。

最低缺失式调度方法与最少任务式调度方法类似，管理节点纪录历史所有任务处理记录，把下一个任务发送给历史上处理请求最少的节点。与最少任务式调度方法不同之处就是记录的历史处理记录而不是当前处理记录。

最快响应式调度方法就是调度节点记录自身到每一个集群节点的网络响应时间，并将下一个到达的连接请求分配给响应时间最短的节点。缺点与最少任务式调度方法类似，通过连接时间的长短来判断，并不能有效的进行负载平衡。

当前的调度方式很难满足以毫秒级的延迟每秒处理数百万个异构任务的需求。

因此，如何改进调度模式，强化学习对于百万级任务调度的低延时的需求，提升了强化学习在进行训练时的效率成为现有技术亟需解决的技术问题。

发明内容

本发明的目的在于提出一种自下而上的分布式调度系统及方法，能够满足强化学习中任务异构性的特点，对异构性任务也有很快的调度速度，并且扩展上十分方便，无需修改内容，横向增加节点即可，在水平可伸缩，具备较强的容错能力。

为达此目的，本发明采用以下技术方案：

一种自下而上的分布式调度系统，所述分布式调度系统用于分布式集群，其特征在于，包括

全局调度器，所述全局调度器位于分布式集群的主节点，并存储和标识有分布式集群中具有任务请求类型的足够资源的子节点，接受来自各个子节点的本地调度器转发的调度任务请求，根据每个子节点的负载和任务的约束来做出调度决策；