[发明专利]多级共享高速缓冲存储器架构下的任务分配方法和系统

说明书

本发明提供了一种多级共享高速缓冲存储器架构下的任务分配方法和系统，属于多核/众核处理器任务分配领域。本发明引入footprint值与地址序列长度值的比值作为局部性参数，其并通过将程序局部性原理应用到程序分配中，有效的提高片上存储器的利用率从而提高系统性能，且操作性良好。本发明通过枚举务分配方式，并寻找局部性参数最小的任务分配方式，并据此进行任务分配；或者通过最小化拥有相同共享Cache的程序簇之间的局部性差异，使任务分配局部性尽可能均匀，在牺牲少量精度的情况下，减少了寻找最佳任务分配方式的时间，提高了任务分配效率。

技术领域

本发明属于多核/众核处理器任务分配领域，特别涉及一种多级共享高速缓冲存储器架构下的任务分配方法和系统。

背景技术

随着半导体技术的发展，同时为了追求更高的处理器性能，越来越多的计算机核心(core)被集成到一个模具上。这些核心通常共享着高级别的高速缓冲存储器(cache)，以此减少片外存储器访问带来的性能损耗。然而，随着核心数量的增长，并行计算任务对片上共享资源，特别是高速缓冲存储器的争夺日益加剧，这可能导致频繁的cache失效，降低并行处理的性能。由于不同的任务需要不同的共享资源，因此不同的并行任务组合将占用不同数量的共享高速缓存。所以，针对片上多处理器(CMP)的任务调度分配研究对提高片上存储器的利用率从而提高系统性能具有重要意义。

对于多核/众核任务调度分配算法(task scheduling on multi-coreprocessors)的研究已有多年历史。现在主流的研究是real-time scheduling，可以大体分为以下三个方面：

全局调度(global scheduling)：每个任务可以在任何可用的处理器上执行。全局调度中所有符合条件的任务都存储在一个单优先级有序队列中，全局调度程序选择队列中最高优先级任务分配处理器。全局调度相对于分区调度能很好地利用计算资源，并对定时误差有好的容忍性。全局调度更适合于开放式系统，当任务集发生变化时，不需要运行任务分配算法。但同时使用这种方法和单处理器调度优化算法可能导致多处理器系统中处理器利用率降低。

分区调度(partitioned scheduling)。每个任务预先分配给处理器，并且在运行时只能在这个特定的处理器上执行。分区调度不允许动态负载平衡，但拥有实现容易的好处。一旦系统被划分成子系统，单处理器实时调度和分析技术便可以应用到每个子系统。但分区调度的挑战是如何将系统工作负载分配给单个处理器，从而使得利用率最大化。同时分区调度使用每个处理器单独运行队列，而不是单个全局队列。对于大型系统，操作单一全局队列的开销可能变得过高。

基于缓存感知调度(cache-aware scheduling)。多核体系结构通过使用共享缓存来提高平均性能，但来自不同核的共享缓存访问会互相干扰。要精确地预测每个任务的执行时间，需要考虑所有共同执行任务的相关信息，而这些任务组合又取决于任务调度。N.Guan提出了一种高速缓存分区任务分配方法，通过将缓存空间分区，使每个任务占有固定的缓存大小。但如果平均分配缓存空间，会对缓存需求大的任务不公平。本发明通过对任务进行局部性原理分析，能很好地解决这种不公平现象。

发明内容

本发明的目的在于提供一种多级共享高速缓冲存储器架构下的任务分配方法和系统，其能够有效的提高片上存储器的利用率从而提高系统性能，同时具有好的可操作性。

本发明是通过以下技术方案来实现：

一种多级共享高速缓冲存储器架构下的任务分配方法，其中，所述共享高速缓冲存储器均在同一层级且数量大于2，每个共享高速缓冲存储器均连接相同数量的核心，每个核心只能分配一个任务；该方法包括步骤：

1)提取任务数、与单个共享高速缓冲存储器相连的核心的数量、共享高速缓冲存储器的个数；每个任务对应一个程序，对于待分配的每一个程序通过离线分析计算对应的footprint值和地址序列长度值；