[发明专利]在计算环境中动态地启用和禁用加速器设备的技术

说明书

各种实施例总体上涉及用于以下的装置、方法和其他技术：经由多个互连的子集向加速器设备发送功率操作发起指示，功率操作发起指示用于指示要对一个或多个基础设施设备执行的功率操作；接收加速器设备的响应，该响应用于向处理器指示加速器针对功率操作准备就绪；以及使得对加速器设备的功率操作被执行，功率操作用于启用或禁用针对基础设施设备中的一个或多个基础设施设备的功率。

技术领域

本文中描述的实施例总体上包括在计算环境中动态地启用和禁用加速器设备的技术。

背景技术

随着市场向机器学习、人工智能、感知计算等发展，处理产品变得更加专用并且针对这些市场细分而定制。使得能够推动该趋势的当前硅解决方案之一是将加速器集成到传统处理器管芯中以创建多芯片封装(MCP)解决方案。对这些加速器的使用取决于工作负载，并且已证明存在加速器处于空闲状态并且从整体平台预算中消耗不必要的功率的实时使用情况。

附图说明

图1A示出了节点的第一示例。

图1B示出了节点的第二示例。

图2A示出了处理流程的示例。

图2B示出了第二处理流程的示例。

图3示出了系统的示例。

图4A示出了第三处理流程的示例。

图4B示出了第三处理流程的另外的操作。

图5示出了第三逻辑流程的示例。

图6示出了计算架构的示例实施例。

具体实施方式

如先前讨论的，这些加速器设备的使用取决于工作负载，并且已证明存在加速器处于空闲状态并且从整体平台预算中消耗不必要的功率的实时使用情况。本文中讨论的内容可以涉及针对加速器设备和/或加速器设备中的一个或多个基础设施设备动态地启用和禁用功率。

将功率从CPU的非活动组件转移到活动组件的目标最近引起了很多关注。先前的解决方案包括通过使用来自热传感器、性能监视器等的遥测信息的定制功率管理算法来在CPU核心之间并且有时跨CPU插槽实现功率平衡。这些解决方案典型地是硬件自主的，对操作系统(OS)或OS驱动具有某种控制。虽然这些动态功率管理解决方案中的一些可以扩展到加速器设备，但是这要求将加速器管芯定制为具有这些高级功率管理特征，并且不会消除空闲功耗。除功率问题之外，为了实现对MCP的重新配置(由于工作负载而作为整体禁用加速器或改变加速器内部配置)，包括MCP的平台必须在热重置并且有时冷重置之间再循环，这从客户希望这些平台运行达到99.99％的服务器或处理节点而言不是可接受的解决方案。

因此，实施例涉及基于工作负载资源要求来动态地控制加速器设备，该工作负载资源要求可以由调度器设备提供并控制。例如，实施例包括调度器读取工作负载元数据，该工作负载元数据包含基于用于由数据中心处理的工作负载的工作负载资源要求。工作负载资源要求可以指定要处理工作负载需要哪些处理和存储器要求，并且调度器可以基于工作负载资源要求来确定要启用和/或禁用的加速器设备、资源以及电路。此外，调度器可以确定包括加速器设备、资源以及电路的哪些节点是可用的并且执行功率操作，例如，针对加速器设备启用和禁用功率。在一些实例中，调度器可以基于负载平衡和/或基于与工作负载相关联的服务级别协议(SLA)来确定哪些节点执行功率操作。

在一个示例中，调度器可以与节点通信以引起功率操作的执行。更具体地，调度器指导节点的管理控制器和操作系统执行针对一个或多个加速器设备的功率操作。或者，利用操作系统的管理控制器可以在准备执行功率操作时执行一个或多个操作。例如，当禁用加速器设备时，操作系统可以从要禁用的加速器设备卸载进程和工作负载。类似地，在准备启用加速器设备时，操作系统确定一旦启用加速器设备则要在加速器设备上执行的工作负载和进程。