[发明专利]一种基于任务均衡调度的GPU内部能耗优化方法

说明书

本发明属于设备状态与任务特性的任务平衡调度技术领域，公开了一种基于任务均衡调度的GPU内部能耗优化方法，利用待执行程序的均衡影响因子CB以及SM使用频率信息PHB把，提出均衡影响因子以及SM使用频率信息的CB‑HRV任务调度算法；CB‑HRV任务调度算法依据任务执行的时间将一组任务按照任务的均衡影响因子分配到对应的SM中执行；策略调度器把任务均衡地分配到各个SM中；同时，利用SM使用频率信息提高设备资源的使用效率；通过对待执行任务信息与资源信息的整合应用实现能耗优化的任务调度方法。本发明实现了在多个SM中的动态平衡调度，达到了GPU的能耗优化目标。

技术领域

本发明属于设备状态与任务特性的任务平衡调度技术领域，尤其涉及一种 基于任务均衡调度的GPU内部能耗优化方法。

背景技术

目前，业内常用的现有技术是这样的：图形处理器(英语:Graphics ProcessingUnit，缩写:GPU)，又称显示核心、视觉处理器、显示芯片，是一种专门在个人 电脑、工作站、游戏机和一些移动设备(如平板电脑、智能手机等)上图像运算工 作的微处理器。用途是将计算机系统所需要的显示信息进行转换驱动，并向显 示器提供行扫描信号，控制显示器的正确显示，是连接显示器和个人电脑主板 的重要元件，也是人机对话的重要设备之一。显卡作为电脑主机里的一个重要 组成部分，承担输出显示图形的任务，对于从事专业图形设计的人来说显卡非 常重要。

一、基于任务调度的能耗优化研究，通过GPU中的任务调度进行能耗优化 可以从硬件和软件两方面着手。基于软件的能耗优化策略因为硬件代价小并且 实施相对容易，因此被认为是比较有效的能耗优化手段。一般来讲，通过软件 的任务调度策略分为面向程序设计的静态方法以及面向操作系统和编译器的动 态方法。面向程序设计的静态方法是直接通过程序设计进行所需SM资源的分 配。学者们提出了静态的任务分配策略来实现任务的调度，从而降低系统能耗。 静态编译的方法无需进行GPU操作系统或是硬件层面的修改，实现代价相对较 小。但同时因为该方法没有考虑到GPU中SM的资源情况以及任务执行的时间 目标，因此能耗优化效果是有限的。尤其是当执行环境发生变化的时候，该方 法的能耗效果就更加难以得到保障。如果想要获得特定环境的能耗目标，需要 在程序调度前对程序进行预先运行以获得参数并且手动改写目标程序代码。第 二种方法是动态调度方法，也就是在程序执行的过程中，利用已知的GPU资源 参数以及任务执行的时间参数进行任务均衡调度。这些参数包括处理数据的大 小、任务对CACHE的依赖程度、SM的设备利用率等。动态的方案通过对GPU 内部的资源的分析以及任务特性本身的分析进行均衡调度，往往能取得比静态 调度更好的效果，着重分析动态调度策略并提一种基于任务均衡动态调度的能 耗优化方法。

二、基于任务执行时间的调度策略(Random allocation device)，GPU能耗 优化的研究场景是基于多SM的工作场景。进入GPU的任务由SM任务调度器 按照某种策略向各个SM分配任务。各个SM的地位在任务执行过程中是平等的， 也就是说它们的任务负载能力是相同的，任务调度器一般基于平等策略进行任 务分配。但是由于任务调度器在每个SM分配的任务特性不同，每个SM的使用 效率并不相同。

在目前的任务调度中，往往基于程序执行时间的调度策略。假设系统中待 执行的程序序列为Pi(0＝i＝n)，当前系统中的可用处理器资源为SMi(0＝i＝n)， 那么要让系统执行程序能耗最小：