[发明专利]计算机存储器中对区域预取器的置信度和侵略性控制

说明书

本公开涉及计算机存储器中对区域预取器的置信度和侵略性控制，并提供一种通过接收包括程序计数器和数据地址的计算机可执行指令来训练区域预取器的方法。该方法包括：将计算机可执行指令的程序计数器与存储表进行比较，存储表包括锚指令的程序计数器和相应的偏移向量，该偏移向量表示先前接收的偏移访问在由锚指令定义的存储区域内的位置。在确定接收的计算机可执行指令与偏移向量中的先前接收的偏移访问之一对应的情况下，该方法判断计算机可执行指令的数据地址是否被中央处理单元访问。基于中央处理单元是否访问计算机可执行指令的数据地址，通过改变偏移向量中置信等级条目和训练等级条目中的至少一个的值来修改存储表。

背景技术

示例性实施例通常涉及使用预取引擎来训练和实现区域预取，以预测未来的存储器访问并将存储的数据从主存储器传输到高速缓冲存储器中，以供中央处理单元(CPU)使用。

计算系统包括执行与各种应用或程序相关联的指令的电路，例如CPU。内存访问延迟通常需要数百个处理器周期，这会导致称为内存墙的性能瓶颈。因此，这些指令和由CPU在执行指令时使用的数据可以至少暂时存储在存储器的不同层中。存储器可以包括多个高速缓冲存储器(高速缓存)和一个主存储器。当CPU请求指令和/或数据时，从主存储器或其他类型的系统存储器中获取该指令和/或数据。

CPU处理数据和执行指令的速度比主存储器快，这会导致从主存储器提供给CPU的数据或指令延迟。为了避免出现这种延迟，由于高速缓存在物理上比主存储器更靠近处理器，并且其处理速度比主存储器快，因此可以通过高速缓存实现对指令和数据的快速访问。

例如，处理器通过数据预提取来降低CPU从主存储器访问数据的延迟。例如，在CPU实际需要数据之前，处理器请求将主存储器(低级存储器)中的数据块加载到高速缓存中。与处理器在需要数据时才直接从主存储器中请求数据相比，通过将数据预提取到高速缓存中，中央处理器可以更快地访问数据块。

计算机程序通常涉及对数据进行的一些处理操作。计算机程序执行的操作至少包括三个阶段：加载数据、执行数据和输出数据执行的结果。处理器的运行速度(通过时钟周期衡量)通常比主存储器的运行速度快。数据预提取用于减少处理器访问数据的时钟周期数。

发明内容

一种数据预提取方式被称为区域预取。区域预取分析存储器访问模式中的规律性，并试图预测存储器将要访问的数据，以便抢先地将数据块从主存储器移动到高速缓存中。换句话说，硬件预取引擎监视与至少一个静态指令相关联的存储器的过往访问，这被称为训练，从而可以预测静态指令在主存储器中的将要访问的数据地址，并且在CPU使用该预测数据地址处的数据之前，将预测数据地址处的数据传输到高速缓存中。预取引擎可以利用一个表或一组表来监视和训练存储器访问的历史数据。

静态指令是在程序中出现的指令，仅通过虚拟指令地址进行识别，也称为程序计数器(PC)。动态指令是执行静态指令的实例。通常，具有与特定静态指令相同的PC的动态指令重复执行与静态指令相同的功能，这样使得动态指令可以预测预提取的数据。

高速缓存包括多个缓存块。高速缓存区域包括高速缓存的块总数中高速缓存内连续块的子集。高速缓存的每个区域被设置为相同的大小，并且每个区域内的每个块的大小都是相同的。

在区域预取过程中，区域预取器引擎以与计算逻辑相结合的一个表或一组表的形式，监视程序或应用中即将执行的指令，并将即将执行的指令与先前指令和先前指令使用的相关数据进行比较，以确定表示一个区域内存储器访问的一致空间相关性的模式。一个典型的例子涉及访问类对象中的某些项。如图2和3所示，类对象被设置到存储器的一个区域中。锚点是类对象对该区域的第一次数据访问的地址。该访问的相应指令是锚指令，并由PC识别。随后，基于每个后续数据访问的地址相对于锚点的地址，存储器的同一区域中的每个数据访问在存储器中具有空间偏移。空间偏移的轨道沿偏移向量移动。