[发明专利]多线程处理器中的寄存器文件

说明书

一种处理器，包括用于执行并发线程的桶型线程执行单元，以及一个或多个寄存器文件，该一个或多个寄存器文件对于每个并发线程包括相应上下文寄存器组。其中一个寄存器文件还包括共同于一些或所有并发线程的共享权重寄存器组。处理器的指令集中定义的指令类型包括具有操作数的算术指令，该操作数在其中执行算术指令的线程的相应算术寄存器组之中指定源和目的地。执行单元配置为响应于算术指令的操作码而执行包括将来自该源的输入乘以来自至少一个共享权重寄存器的至少一个权重的操作，并将结果放置于该目的地。

技术领域

本公开涉及由多线程处理器中执行的机器代码指令使用的寄存器文件布置。

背景技术

对开发为特定应用而设计的处理器(例如图形处理器(GPU)及数字信号处理器(DSP))的兴趣正在上升。另一类最近受到关注的特定于应用的处理器是专用于机器智能应用的处理器，其被申请人命名为“IPU”(智能处理单元)。这些处理器可以被采用为例如加速器处理器，该加速器处理器布置为执行主机分配的工作，例如训练或帮助训练知识模型，例如神经网络，或者执行或帮助执行基于这种模型的预测或推断。

机器智能算法是基于对“知识模型”执行迭代更新，这可以由多个互连节点的图形表示。每个节点表示其输入的函数。一些节点接收对图形的输入，一些接收来自一个或多个其他节点的输入，而一些节点的输出形成其他节点的输入，一些节点的输出提供图形的输出(在一些情况下，给定节点甚至可能具有以下全部：对图形的输入、来自图形的输出和对其他节点的连接)。此外，由一个或多个相应参数(例如权重)对每个节点的函数进行参数化。在学习级期间，目标是基于经验输入数据集，找到各个参数的值，使得图形作为整体针对可能输入范围而生成期望的输出。用于这样做的各种算法在本领域中是已知的，例如基于随机梯度下降(stochastic gradient descent)的反向传播算法(back propagationalgorithm)。在基于输入数据的多次迭代中，逐渐调整参数以减少它们的误差，并且因此图形收敛于解(solution)。在随后的阶段，学习的模型然后可以用于对在给定的指定输入集的情况下对输出进行预测，或者在给定的指定输出集的情况下对输入(原因)进行推断。

设计为用于机器智能应用的处理器可以在其指令集中包括专用指令，用于执行机器智能应用中常用的算术操作(指令集是处理器的执行单元配置为识别的基本机器代码指令类型集，每个类型由相应的操作码和零个或更多个操作数定义)。例如，机器智能应用(例如神经网络)中所需的常见操作是在输入数据集上进行内核(kernel)的卷积(convolution)，其中内核表示神经网络中节点的权重。为了在数据上进行大尺寸内核的卷积，可以将卷积分成多个向量或矩阵积，每个积(product)输出拟与后续积的输出累加的部分和。已经存在一些处理器，这些处理器在其指令集中包括专用于执行向量和矩阵乘法类型操作的算术指令，以用于执行卷积。

发明内容

处理器还可提供对并发(concurrent)执行多个程序线程的支持。这种支持通常包括用于每个线程的相应上下文寄存器组，其中每组用于保持要并发执行的多个线程中的相应一个的程序状态(“上下文”(context))。保持在给定的线程的上下文寄存器中的程序状态通常包括该线程的程序计数器、记录线程的状态(例如暂停、运行等)的一个或多个控制状态寄存器，以及多个操作数寄存器，包括算术操作数寄存器，用于暂时保持相应线程的算术指令用于操作和输出的值。不同并发线程通过不同的相应执行时隙中的共同执行流水线在时间上交错，每个时隙仅使用不同的相应一组上下文寄存器的寄存器。

通常，每个线程在每个线程的单独算术寄存器文件中包括其自己的相应算术操作数寄存器组。当指令作为给定线程的一部分执行时，隐含的是它总是使用该特定线程的算术寄存器文件中的算术操作数寄存器。