[发明专利]一种低功耗的自适应流水线并行方法

说明书

本发明属于计算机技术领域，具体为一种低功耗的自适应流水线并行方法。本发明方法包括：确定优化目标，建立优化方程；进行状态管理；设计流水线；以及确定线程调度策略。本发明能自动适应工作负载的变化，在保证性能的前提下可以实现更好的计算功耗比。

技术领域

本发明属于计算机技术领域，具体涉及一种低功耗的自适应流水并行方法。

背景技术

在大数据时代，计算机系统处理的数据量越来越大，实时性要求也越来越高。随着多核乃至众核的普及，多核处理器已经成为各种云平台或数据中心的主流硬件。因此，越来越多的研究者试图通过并行化算法，利用多核平台提供的计算资源加速算法的处理速度，实现对数据的实时处理。然而，已有的并行方法对于多核平台的并行计算资源的利用效率较低，并行加速效果并不理想，其性能结果与理想加速效果存在较大差距。这些不同的算法，处理的对象和计算的过程虽然有很多不同，但并行化的过程中存在一些相似的模式。多媒体服务是大数据时代的典型应用，而多媒体检索应用算法是多媒体相关数据服务的基础，有着广泛的应用前景。我们以多媒体检索应用算法的并行化为例，阐述算法并行化过程中的典型问题。

大规模的数据中心和集群服务器中，由于功耗墙的问题，除了传统的处理速度相关的性能指标外，能耗已成为最重要的评测指标之一。即在这些环境中，经常使用计算功耗比代替单一的性能做为整个系统优化的目标。考虑到多媒体检索算法常常被部署在大规模的云环境或者数据中心的集群上，并全天候地为用户提供实时处理服务，其负载压力在不同的时间段区别非常大。简单地提升程序的运行性能实际上不能满足数据中心对于功耗的优化目标。因此，在性能损失很小的前提下，设计和实现适应云计算环境功耗需求目标的，具有更高计算功耗比的功耗优先的多媒体检索并行算法更为重要。

在自适应的流水并行设计中，算法通过检测不同阶段间缓冲区的大小来动态地调整不同阶段的线程分配，达到负载均衡的目标。在这种设计中，在工作负载满的时候可以很好的工作。然而当负载动态变化时，很多线程将频繁的在不同阶段间切换，造成资源的浪费。比如工作负载很轻时，不同阶段的缓冲区会处于空的状态，算法检测缓冲区认为第二阶段的线程过多，逐步调度线程到第一阶段。而随着调度到第一个阶段线程的增多，第二阶段的线程数逐渐减少，共享缓冲区逐渐处于满状态，线程再反向迁移。从而导致颠簸状态。因此，动态流水线并行算法在输入工作集变化的时候不能取得较好的计算功耗比。

对于大型数据中心或云平台的硬件配置一般是为了应对最差的工作负载而设计的。然而这种情况出现的几率并不是很高，或者绝大部分情况并不会出现。以商业购物网站的负载为例，一般在白天时负载相对较高，而进入夜晚则负载会逐渐降低。同样在白天，工作日的负载会小于双休日的负载。由于较小的工作负载仅需要较少的计算资源，冗余的计算资源如果被设置为待机状态或低功耗状态，在负载增加时再唤醒，则可以有效降低能量消耗。为了实现更好的计算功耗比，我们在进行动态流水线并行设计时，需要同时考虑输入的工作负载情况和流水线内部的工作负载情况来统一调度，从而达到节省能源实现更好的计算功耗比的目的。

发明内容

本发明的目的在于克服算法在流水线并行化过程中存在的各种固有限制，提供一种功耗低的自适应流水并行方法。

(一)确定优化目标，建立优化方程

在流水线并行机制中，一个完整的应用被划分为多个功能阶段，各个阶段以相互衔接的并行方式工作，并通过各个阶段间的共享缓冲区交互中间结果。输入数据流经各个阶段并逐个被处理，在这里我们假定所有的阶段在同一台机器上处理。