[发明专利]多核设备及其作业调度方法

说明书

提供了一种多核设备及其作业调度方法。所述多核设备包括：多个核心，均包括被配置为存储激活周期计数的激活周期计数单元以及被配置为存储停顿周期计数的停顿周期计数单元。所述多核设备还包括：作业调度器，被配置为基于从所述多个核心中的每一个核心接收到的状态信息确定处于激活状态的核心的最优数量，并调整供电以保持处于激活状态的核心的最优数量。

本申请要求于2013年5月30日提交到韩国知识产权局的第10-2013-0062011号韩国专利申请的权益，该申请的公开通过引用全部合并于此以用于所有目的。

技术领域

以下描述涉及多核设备及其作业调度方法。

背景技术

由于待处理的数据之间没有依赖性，因此多核系统的应用(具体地，基于图形处理单元的通用计算(GPGPU)的应用)实现了大量数据的简单的并行处理。可通过充分利用资源来提高这样的大量数据的并行处理的性能。

在一般的多核系统(诸如常规的GPU)中，作业调度器通过循环赛方法将最多数量的作业分配给每个核心，并在每当由核心处理的作业逐个完成时再次分配新作业，以确保始终处理最多数量的作业。在主要使用独立资源(例如，寄存器文件、共享内存和计算单元)的计算密集型工作量的情况下，随着作业的数量增加，隐藏内存访问延迟或流水线延迟的效果得到增强，从而提高整体性能。

然而，在主要使用由所有核心共享的内存的内存密集型工作量的情况下，即使作业的数量增加，也由于网络和内存的最大带宽限制，而不能期望提高整体性能。另外，由于由过多流量导致的网络拥塞以及2级(L2)高速缓存容量不足，在一些情况下性能反而会降低。

发明内容

提供本发明内容来以简化形式介绍以下在具体实施方式中进一步描述的构思的选择。本发明内容不意在对要求保护的主题的关键特征或必要特征进行标识，也不意在用于帮助确定要求保护的主题的范围。

在一总体方面，提供了一种多核设备，包括：多个核心，均包括被配置为存储激活周期计数的激活周期计数单元以及被配置为存储停顿周期计数的停顿周期计数单元。所述多核设备还包括：作业调度器，被配置为基于从所述多个核心中的每一个核心接收到的状态信息确定处于激活状态的核心的最优数量，并调整供电以保持处于激活状态的核心的最优数量。

所述多个核心中的每一个核心还可包括：前端单元，被配置为将指令发送到执行单元，响应于指令被发送到用于对指令进行处理的执行单元，计算激活周期计数并将激活周期计数存储在激活周期计数单元中，响应于指令被发送到执行单元，计算停顿周期计数并将停顿周期计数存储在停顿周期计数单元中。

所述多个核心中的每一个核心还可包括：状态监控单元，被配置为存储状态信息。前端单元还可被配置为：基于激活周期计数和停顿周期计数产生状态信息，并将状态信息存储在状态监控单元中。

前端单元可被配置为：响应于停顿周期计数大于激活周期计数和预定阈值，产生指示将所述多个核心中的相应的核心改变为压制状态的状态信息。

作业调度器可被配置为：基于状态信息将所述多个核心中的一个或更多个核心改变为压制状态，并基于改变结果确定处于激活状态的核心的最优数量。

作业调度器可被配置为：响应于当前周期大于预定周期，将在所述改变之后仍然处于激活状态的核心的数量确定为处于激活状态的核心的最优数量。

作业调度器可被配置为：响应于当前周期小于或等于预定周期并且处于激活状态的核心的数量等于内存通道的数量，将处于激活状态的核心的数量确定为处于激活状态的核心的最优数量。

作业调度器可被配置为：响应于在所述多个核心之中存在处于压制状态的核心，将所述多个核心之中的处于激活状态并处理完作业的核心改变为关闭状态，并对处于关闭状态的核心进行电源门控。