[发明专利]一种低功耗的自适应流水线并行方法

权利要求书

1.一种功耗低的自适应流水并行方法，其特征在于，

首先，确定优化目标，建立优化方程：

在流水线并行机制中，把一个完整的应用划分为多个功能阶段，各个阶段以相互衔接的并行方式工作，并通过各个阶段间的共享缓冲区交互中间结果；输入数据流经各个阶段并逐个被处理，这里假定所有的阶段在同一台机器上处理；

用计算核心集合C＝{c₀,c₁,…,c_|c|-1}表示计算平台的计算能力，这里|C|表示集合C中的元素个数；当一个并行程序运行在核心集合C上时，对于每一个计算核心c_i有两种状态：工作状态和空闲状态；对应的时间也就有两种：工作时间和空闲时间此外，把整个应用算法在这些计算核心上的执行过程的执行时间划分为k个不重叠的时间区间N＝{n₀,n₁,…,n_k-1}，在每个时间区间n_i内，有两种运行时间，一种是有效的工作时间T_E，这是各个处理器核心实际处理有用工作的时间；另一种是非有效工作时间，即不必要的冗余时间T_R；在这两个时间中，工作时间T_E中处理器核心消耗的能量是有效能量，而非有效工作时间T_R中处理器核心消耗的能量是无效能量；记每个处理器核心在第i个时间段资源浪费率为在该时间段内非有效时间占该段整个时间的比值；整个资源的浪费用所有处理器核心在整个执行过程中资源利用率之和来表示，即整体的资源浪费A用公式(1)表示：

为获得最佳的能源利用率，应当最小化无用的运行时间以降低能源浪费，换言之，应当最小化资源浪费率A：

min(A)→0 ⑵

为获得全局的最小资源浪费，将目标转换为在每一个时间区间n_i都最小化各个处理器核心资源的浪费率a_i；根据贪心算法，把全局能耗最优问题转换为局部最优问题，即公式(2)转换为公式(3)：

然后，进行状态管理：

为了适应工作负载的变化，用空闲状态来描述没有处理任务的线程，根据线程状态进行调整从而节省能源；当线程处于空闲状态时，根据不同的硬件设计，使执行该线程的CPU关闭或处于睡眠状态，以节约能耗；随着输入负载的增加，为了平衡工作负载，当需要更多的线程时，唤醒处于空闲状态的线程，将它们调度到不同的工作阶段；当输入负载下降时，为节约能源，将冗余的线程置为空闲状态，并将对应的处理器核处于低功耗状态；

然后，进行流水线设计：

将算法划分为多个并行执行的阶段；阶段1前的初始阶段是一个虚拟的阶段，不进行任何实质性的工作；线程被调度到该阶段，说明该线程处于空闲状态，对应的硬件资源调整成低功耗状态；当阶段1检测到负载增加，则从该虚拟阶段调度唤醒更多睡眠线程；

除了流水线的初始阶段外，并行流水线中的每个阶段只检测自己的输入缓冲区的状态；除了最后一个阶段，每个阶段只检测自己对后继阶段的输出缓冲区的状态；对于输入负载的变化，只有流水线的第一个阶段进行检测并根据情况决定面向低功耗的相关线程调度策略；Buffer1被放在虚拟阶段和阶段1之间，通过检测Buffer1，阶段1获取输入工作负载的状态。

2.根据权利要求1所述的功耗低的自适应流水并行方法，其特征在于，所述线程调度策略，具体如下：在一个时间区间i中，如果输入缓冲区处于满的状态，意味着输入工作负载上升，现有的工作线程不足以应对工作负载，此时，唤醒空闲的线程，并调度到流水线的不同阶段；当这些线程进入工作状态后，整个并行流水线处理负载的能力获得提高；当工作负载下降时，输入缓冲区处于空状态，这意味的工作线程过多，一些线程处于空转状态，将这些冗余的线程转入空闲状态，以达到节能的目的。

3.根据权利要求2所述的功耗低的自适应流水并行方法，其特征在于，对于典型的SIFT特征提取算法，计算的特征点，被广泛用于描述图像；将特征提取算法划分为特征检测阶段和特征描述阶段两个大的阶段；每个阶段进一步再细分为多个阶段：特征检测阶段分为构建图像金字塔和计算特征位置两个小阶段；特征描述阶段分为计算特征点方向、计算特征窗口两个小阶段；

采取粗粒度的流水线划分方式，特征检测构成流水线的阶段1，设立一个输入缓冲区(Buffer1)，负责检测输入工作负载的变化，并对阶段1的线程做出相应调整；阶段1的输出结果放进输出缓冲区(Buffer2)，作为第2阶段的输入缓冲区；特征描述形成流水线的第2阶段，检测输入缓冲区(Buffer2)的工作负载变化，根据负载的变化情况调度工作线程；

当工作负载变化时，特征描述阶段的线程首先与检测阶段的线程相互转移，其后检测阶段决定处于该阶段的线程是转移到空闲状态或者从空闲状态唤醒更多线程；将特征检测阶段的线程转移至空闲状态或描述阶段；对于特征描述阶段，其仅负责监控自己的工作负载；当工作负载变化时，特征描述阶段的线程首先与检测阶段的线程相互转移，其后特征检测阶段决定处于该阶段的线程是转移到空闲状态或者从空闲状态唤醒更多线程；通过这种方式，减小每一个时间段i中的并保持