[发明专利]基于推测度量将资源分配给线程

说明书

本文描述了基于推测度量将资源分配给线程。基于与每个线程关联的指令为推测性的程度，用于将资源分配给多个线程的方法、保留站和处理器。所述方法包括在保留站接收每个线程的推测度量。每个推测度量代表与特定线程关联的指令为推测性的程度。指令推测性越大，该指令就越可能被分支预测器不正确地预测。保留站然后基于推测度量将功能单元资源(例如管线)分配给线程，并且基于该分配从一个或多个线程选择若干指令。然后将所选择的指令发出到功能单元资源。

本申请是申请日为2014年1月21日、申请号为201410028442.7的同名专利申请的分案申请。

技术领域

本公开通常涉及改善处理器中的并行处理。特别地，本公开的方案实现分支预测和多线程，其中资源被基于推测度量指定给线程。

背景技术

存在大量提高中央处理单元(CPU)的吞吐量的技术。一种是通过使用超标量体系结构提高指令级别的并行度。这通过允许在每个时钟周期执行来自指令流中的不止一条指令，增加了单个线程的性能。另一种是通过使用可以允许来自不止一个线程的指令并行操作的多核或同步多线程体系结构来提高线程级别的并行度。

随着超标量体系结构宽度的增加(例如，每个时钟周期可执行的指令的数量增加)，对应地，在管线里在同一时间有更多的指令可以影响程序流(例如分支)。此外，大量这些分支是有条件的，在先前的指令沿着管线进一步进展下去之前很难确定地知道这些分支的结果。因此，为了保持增加的吞吐量，使用称为“分支预测”的推测技术来预测分支的结果。通常，超标量处理器越宽，预测的推测性越大。而正确的预测能够显著提高指令吞吐量，不正确的预测指令不仅无助于指令吞吐量，而且它们还束缚了宝贵的资源。为了良好的预测精准度，分支预测硬件的尺寸变大。

尽管有这些缺点，但分支预测和其他推测性技术对于超标量处理器中良好的单线程吞吐量来说很重要。

多线程处理器通常每时钟周期每线程执行较少的指令，但是跨若干线程可以执行多个指令(通常称为同步多线程)。这些可以保持指令的高的总体吞吐量，同时具有较低的推测性的总体级别，因为每个线程并不尝试提前运行，即每个线程在任何一时刻具有较少的进行中的指令。

下面描述的实施例不限于解决已知处理器的任何或者所有缺点的实现。

发明内容

提供这个发明内容来以简化的形式介绍概念的选择，其在下面的具体实施方式中进一步描述。该发明内容并不旨在认定所述要求保护的主题的主要特征或重要特征，也不旨在用来辅助确定所述要求保护的主题的范围。

这里描述的方法、保留站和处理器用于基于与每个线程相关联的指令为推测性的程度，将资源分配给多个线程。该方法包括在保留站接收每个线程的推测度量。每个推测度量代表与特定线程相关联的指令为推测性的程度。指令推测性越大，该指令就越有可能被分支预测器不正确地预测。基于推测度量，保留站然后将功能单元资源(例如管线)分配给线程；并基于所述分配，从一个或多个线程选择若干指令。然后将选择的指令发出到功能单元资源。

第一方面提供一种在处理器的多个线程之间分配资源的方法，每个线程与多条指令相关联，该方法包括：在保留站接收多个推测度量，每个推测度量代表与特定线程相关联的指令为推测性的程度；基于推测度量，在保留站将功能单元资源分配给多个线程；基于功能单元资源的分配，在保留站选择与多个线程相关联的指令；以及在保留站将所选择的指令发出给所述功能单元资源。

第二方面提供了被安排用来在多个线程之间分配资源的保留站，该保留站包括：多个指令队列，每个指令队列被配置用来存储多个线程中的一个的指令；以及与多个指令队列通信的指令调度器，所述的指令调度器被配置用来：接收多个推测度量，每个推测度量代表与特定线程相关联的指令为推测性的程度；基于所述推测度量，将功能单元资源分配给所述多个线程；基于功能单元资源的所述分配，从所述多个指令队列选择指令；以及将所选择的指令发出给所述功能单元资源以供执行。