[发明专利]用于跨过多个硬件线程的虚拟线程的细粒度并行的低延迟变量转移网络

说明书

技术领域

本发明一般涉及数据处理，尤其涉及处理器架构和多线程。

背景技术

随着半导体技术在时钟速度的增加方面继续缓慢地越来越接近实际极限，架构师们越来越多地把注意力放在处理器架构的并行技术上来实现性能提高。在集成电路器件，或芯片级上，往往将多个处理器核心布置在同一芯片上，以与独立处理器芯片，或在某种程度上，与完全独立计算机几乎相同的方式起作用。另外，甚至在核心内，通过使用专门管理某些类型的操作的多个执行单元来采用并行技术。在许多情况下也采用流水线技术，以便将可能花费多个时钟周期来执行的某些操作分解成几个阶段，使其它操作能够在较早的操作完成之前开始。还采用多线程技术使多个指令流能够并行地得到处理，使得在任何给定时钟周期中能够执行更综合工作。

应用上述技术的净结果是向多线程处理环境提供分布在一个或多个处理器芯片中和在一台或多台计算机中的一个或多个处理核心之间和能够并行地处理多个指令流的一批硬件线程的能力。可以预计，随着技术提高，处理器架构将能够支持数百或数千个硬件线程，当将多个处理器组合成像超级计算机和大型并行计算机那样的高性能计算系统时，存在支持数百万个硬件线程的可能性。

但是，有效的并行处理要求运行在多线程处理环境中的软件应用程序适当利用多线程能力。软件开发者通常更乐于开发单线程应用程序，因为它们通常遵循执行所希望任务所需的步骤顺序。多线程支持往往不是凭直观，而是往往需要考虑使冲突最少，以及依赖于使线程在它们可以完成它们自己的工作之前等待其它线程完成它们需要的工作而可能花费的频率最少。例如，如果一个线程需要计算其它线程正在计算的某组数值的平均值，则那个线程在所有其它线程计算它们各自的数值之前将不能执行它的操作。另一方面，执行完全独立任务的线程通常不会遭受依赖问题。因此，与开发多线程应用程序有关的许多努力都致力于将任务分解成相对独立线程，以便使线程间依赖性最少。

鉴于与开发多线程应用程序有关的困难，在本领域中相当需要简化多线程应用程序的开发的技术。例如，已经相当努力地在编译期间，例如，使用优化编译器可编程地将单线程应用程序代码转换成多线程应用程序代码。借助于一种方法，例如，将细粒度并行技术应用于将指令流中的有序代码转换成多个小无序代码段，并将指令插入指令流中，以便以变量的形式在代码段之间传递数据。一种类型的指令是将变量发送给另一个线程的“放置”指令，另一种类型的指令是从另一个线程中检索变量的“取得”指令。通过使用这些指令，可以通过延迟为特定变量发出取得语言的代码段直到另一个代码段为那个变量发出相应放置指令来保持在多个线程上执行的代码段之间的同步。

虽然使用放置和取得指令可以有效地保持在不同硬件线程上执行的依赖代码段之间的同步，但是让线程延迟等待来自另一个线程的变量的任何时间都代表生产力损失，因此最好是使与在线程之间传送变量有关的延迟最小。

因此，在本领域中相当需要在多线程处理环境下有效地在多个线程之间传送数据以便使与线程间依赖性有关的延迟最小的方式。

发明内容

本发明通过提供利用多核心处理器芯片中的多处理核心的寄存器堆之间的低延迟变量转移网络支持跨过多个硬件线程的虚拟线程的细粒度并行技术的方法和电路安排来解决与现有技术相关的这些和其它问题。在本发明的一些实施例中，在变量转移网络上传送变量通过从源处理核心的寄存器堆中的本地寄存器到目的地处理核心中分配给目的地硬件线程的变量寄存器的移动来启动，以便目的地硬件线程然后可以将变量从变量寄存器移动到目的地处理核心中的本地寄存器。

依照本发明的一个方面，使变量转移网络耦合在多个处理核心之间，其中多个硬件线程被布置在多个处理核心中，以及其中每个处理核心包括一个寄存器堆和多个硬件线程当中的至少一个硬件线程。该变量转移网络被配置成在多个处理核心当中的一个源处理核心中的源硬件线程与多个处理核心当中的一个目的地处理核心中的目的地硬件线程之间传送变量。

表征本发明的这些和其它优点和特征展示在所附的和形成其进一步部分的权利要求书中。但是，为了更好地理解本发明，以及通过其使用达到的优点和目的，应该参考附图以及描述本发明的示范性实施例的伴随描述性内容。