[发明专利]多处理器/多内核消息传递机中的推测预取方法和装置

说明书

技术领域

本发明的实施例通常涉及多处理器/多内核平台上的消息传递，更具体 地，涉及内核之间的数据预取技术和消息传递技术的新颖组合。

背景技术

多处理器和/或多内核系统中存在多种使各单独内核能够在单独内核 之间发送消息的硬件机制。例如，英特尔IXP2xxx系列的网络处理器具有 多种用来将32位消息从一个内核发送到另一个内核的硬件机制。许多微处 理器内核也具有推测预取硬件，其将数据从存储器层次结构的一个级取至 一个或多个更高级。例如，如果处理器检测到运行于其上的软件以固定间 隔(stride)重复地访问数据，该处理器可以推测地取得处理器期望软件下次 将请求的数据。

在内核之间传递的消息常包含地址引用(reference)或指针。在现有系统 中，接收方内核的执行流水线随需要解引用(dereference)所述指针并从存储 单元取得数据。在所述执行流水线中的指令能够被执行之前等待将要获得 的数据可能产生较大的延迟。在由Erik J.Johnson和Aaron R.Kunze合著 的“IXP 2400/2800 Programming：The Complete Microengine Coding Guide” (英特尔出版社，2003)中记载了消息传递的一种实现。第10章记载了消息 传递。

发明内容

根据本发明的一个方面，提供了一种用于在多内核消息传递平台中进 行推测预取的系统，该系统包括：至少一个处理器，所述至少一个处理器 中的每一个具有至少一个内核，其中所述系统包括多个内核；所述多个内 核中的接收方内核，其具有本地高速缓存、用于存储接收到的消息的至少 一个消息队列、以及消息传递预取器，该消息传递预取器以通信方式耦合 到共享高速缓存或共享存储器至少二者之一，并且还耦合到所述本地高速 缓存；互连链路，用于在所述多个内核之间传递消息；和所述多个内核中 的发送方内核，用于发送消息到所述接收方内核，其中包含存储器引用的 消息被发送到所述接收方内核的所述至少一个消息队列和所述消息传递预 取器，并且其中，所述消息传递预取器被配置为推测地取得在接收到的消 息中引用的数据，其中所取得的数据在本地高速缓存、共享高速缓存、除 所述接收方内核之外的其它内核的本地高速缓存或共享存储器之一中。

根据本发明的另一个方面，提供了一种用于在多内核消息传递平台中 进行推测预取的系统，该系统包括：至少一个处理器，所述至少一个处理 器中的每一个具有至少一个内核，其中所述系统包括多个内核；所述多个 内核中的接收方内核，其具有本地高速缓存；单独的硬件单元，其由所述 多个内核共享，用于使消息在至少一个硬件消息队列中入队，所述至少一 个硬件消息队列用于为所述接收方内核存储接收到的消息；消息传递预取 器，其以通信方式耦合至所述单独的硬件单元、共享高速缓存或共享存储 器至少二者之一、以及所述接收方内核；互连链路，其经所述单独的硬件 单元在所述多个内核之间传递消息；和所述多个内核中的发送方内核，其 经所述单独的硬件单元向所述接收方内核发送消息，其中包含存储器引用 的消息被发送到所述接收方内核的所述至少一个硬件消息队列和所述消息 传递预取器，并且其中，所述消息传递预取器被配置为推测地取得在接收 到的消息中引用的数据，其中所取得的数据存储在本地高速缓存、共享高 速缓存、除所述接收方内核之外的其它内核的本地高速缓存或共享存储器 之一中。

根据本发明的再一个方面，提供了一种由机器实现的方法，用于在多 内核消息传递平台中进行推测预取，该方法包括：由发送方内核发送一个 消息，该消息包含存储器引用指针且被发送到接收方内核；由所述接收方 内核接收所述消息；同时使所述消息在消息队列中入队并且将所述消息转 发到消息预取器中；基于所述存储器引用指针，由所述消息预取器发出存 储器引用，以获取被引用的存储器；将所获取的对应于所述存储器引用的 数据存储在所述接收方内核的本地高速缓存中；由所述接收方内核使所述 消息从所述消息队列中出队；解引用所述存储器引用指针；和获取存储在 所述接收方内核的本地高速缓存中的所述数据。