[发明专利]虚拟化环境中的智能GPU调度

说明书

用于在虚拟化环境中调度针对图形处理单元(GPU)的工作负荷提交的技术包括在计算设备中实施的GPU调度器。虚拟化环境包括被配置有本地图形驱动器的多个不同的虚拟机。GPU调度器从不同的虚拟机接收GPU命令、动态地选择调度策略、并且调度GPU命令以用于由GPU处理。

背景技术

在计算设备中，图形处理单元(GPU)可以通过提供可以快速地执行数学运算的电子电路来对中央处理单元(CPU)进行补充。为此，GPU利用了大量的并行性和许多并发线程。GPU的能力使得其有助于加速对视觉媒体和并行计算任务的处理。例如，GPU可以用于视频编码/解码、二维和三维游戏中的图形渲染、以及其他通用计算应用。如果可以克服在虚拟化GPU时涉及的复杂性，则可以将虚拟化技术应用于许多不同类型的计算平台上的图形处理单元。

附图说明

在本文中所描述的概念是作为示例而不是限制在附图中示出的。为了图示的简单和清楚，在附图中所描绘的元素不一定是按比例绘制的。在认为合适的地方，已经在附图之间重复了附图标记以指示相对应的或相似的元素。

图1是计算系统的至少一个实施例的简化的框图，该计算系统包括配置有如在本文中所公开的智能GPU调度的至少一个计算设备；

图2是图1的服务器计算设备的环境的至少一个实施例的简化的框图；

图3是图2的GPU调度器的环境的至少一个实施例的简化的框图；

图4是针对智能GPU调度的方法的至少一个实施例的简化的流程图，该方法可以由图1的计算设备中的一个或多个计算设备来执行；并且

图5是示出了针对图1的计算设备的至少一个实施例的用例的简化的时序图。

具体实施方式

尽管本公开的概念可以受到各种修改和可替代的形式的影响，但是其具体的实施例已经在附图中作为示例示出，并且将在本文中详细地描述。然而，应当理解的是，意图不在于将本公开的概念限于所公开的特定的形式，而相反地，目的是覆盖与本公开和所附权利要求一致的全部修改、等价物、和替代物。

在说明书中对“一个实施例”、“实施例”、“示例性实施例”等的引用指示所描述的实施例可以包括特定的特征、结构、或特性，但每个实施例可以或不一定包括该特定的特征、结构、或特性。此外，这样的短语非必须指的是相同的实施例。此外，当结合实施例来描述特定的特征、结构、或特性时，所主张的是结合其他实施例(无论其是否进行了明确地描述)实现这样的特征、结构、或特性也在本领域技术人员的知识范围内。额外地，应当理解的是，以“至少一个A、B和C”的形式包括在列表中的项目可以意味着(A)；(B)；(C)；(A和B)；(B和C)；(A和C)；或者(A、B和C)。类似地，以“A、B或C中的至少一个”的形式列出的项目可以意味着(A)；(B)；(C)；(A和B)；(B和C)；(A和C)；或者(A、B和C)。

在一些情况下，可以以硬件、固件、软件或其任何组合来实现所公开的实施例。此外，还可以将所公开的实施例实现为由一个或多个瞬时性或者非瞬时性机器可读(例如，计算机可读)存储介质所实行或存储在其上的指令，所述指令可以由一个或多个处理器来读取或执行。机器可读存储介质可以被实施为用于以能够由机器读取的形式存储或发送信息的任何存储设备、机制、或其他物理结构(例如，易失性或非易失性存储器、媒体盘、或其他介质设备)。

在附图中，可以以具体的布置和/或顺序来示出一些结构或方法特征。然而，应当理解的是，这样的具体的布置和/或顺序不是必需的。相反，在一些实施例中，可以以与在说明性附图中所示出的不同的方式和/或顺序来布置这些特征。额外地，将结构或方法特征包含在特定的附图中不意味着暗示在所有实施例中都需要这样的特征，相反，在一些实施例中，这样的特征可以不被包括，或者可以与其他特征进行组合。