[发明专利]基于缓冲器充满度而向高速缓存进行预取

说明书

背景

发明领域

本公开一般涉及处理器，并且更具体来说，涉及处理器上的预取。

现有技术描述

处理器架构通常采用存储器层次结构，在存储器层次结构的最低级别上具有外部存储器，并且在存储器层次结构的每个更高级别上具有高速缓存。处理器架构进一步采用从存储器层次结构中的最高级别高速缓存请求数据(指令或操作数数据)的处理器核心。响应于确定与存取请求相回应的信息并未存储在存储器层次结构中的特定高速缓存上，所述高速缓存将发出针对来自层次结构中下一个更低级别上的高速缓存的信息的存取请求。一些处理器架构采用非阻塞高速缓存，据此，所述高速缓存能够在对朝向存储器层次结构中的更低级别的未决存取请求的满足进行等待的同时，服务存取请求。此类架构可使用未命中地址缓冲器(MAB)来存储用于每个未决存取请求的地址和其它信息。存储器层次结构中的每个高速缓存分配有MAB时隙，以使得分配至高速缓存的时隙数目决定针对高速缓存的未决存取请求的最大允许数目。

存取请求可为至少两种类型：需求请求，其表示来自处理器核心的、针对已知被处理器需要的指令或数据的请求，以及预取请求，所述预取请求投机性地请求期望与被预测在稍后点处执行的指令或数据参考相回应的指令或数据。通常给予需求请求较高优先级而便于保留MAB上的存储位置。由于在MAB上缺乏可用存储位置，这个优先化会对预取产生负面影响，从而降低处理器效率。

附图简述

通过参考附图，可更好地理解本公开，并且它的许多特征和优点对本领域技术人员来说变得显而易见。

图1为根据一些实施方案的电子装置的方框图。

图2为根据一些实施方案的、在图1的电子装置的处理器上所使用的预取请求信息的方框图。

图3为时间线图，其示出根据一些实施方案的、在图1的处理器的存储器层次结构上进行的预取请求传输。

图4为根据一些实施方案的、基于MAB充满度而在图1的处理器的存储器层次结构上传输预取请求的方法的流程图。

图5为根据一些实施方案的、基于预取信任级别而在图1的处理器的存储器层次结构上传输预取请求的方法的流程图。

图6为流程图，其示出根据一些实施方案的、用以设计和制造实施处理器部件的至少一部分的集成电路装置的方法。

在不同图示中相同参考符号的使用指示类似或相同的物件。

详细描述

图1至图6示出用以提升处理效率的技术，所述技术通过基于未命中地址缓冲器(MAB)或基于预取请求的信任级别，将预取请求从其目标高速缓存传输至存储器层次结构中的另一高速缓存来提升处理效率。处理器保持MAB，以使得MAB上的每个时隙可存储与针对存储器层次结构中的高速缓存的未决存取请求相关的信息。存储器层次结构中的每个高速缓存在MAB上分配有一组时隙。响应于在接收对高速缓存的预取请求时，确定分配至高速缓存的所述组时隙的充满度高于阈值，处理器将预取请求传输至存储器层次结构中的下一个更低级别高速缓存。作为响应，被存取请求锁定为目标的数据会预取至存储器层次结构中的更低级别高速缓存，并且因此在后续需求请求的事件中可用以提供给高速缓存。另外，处理器可基于预取请求的信任级别而将预取请求传输至更低级别的高速缓存。这确保与低信任级别关联的预取请求不会消耗MAB上更高级别高速缓存的时隙，所述时隙将用于具有更高信任度的需求请求或预取请求。

图1示出根据一些实施方案的、具有处理器102和存储器150的电子装置100。电子装置100可为采用处理器的任何装置，包括个人计算机、服务器、便携式电子装置(如手机)、自动装置、游戏控制台以及类似装置。处理器102一般被配置成执行布置为计算机程序并且存储在存储器150上的多组指令。所述多组指令操纵处理器102，以便执行与计算机程序关联的任务。

处理器102包括执行所述多组指令的处理器核心110。在一些实施方案中，处理器核心110实施具有多个级的指令流水线，据此每个级执行作为指令执行的一部分的特定操作。例如，指令流水线可包括：获取级，用以按照程序顺序来获取下一指令；解码级，用以将所获取的指令解码成微操作集；分派级，用以分派微操作而加以执行；具有多个执行单元的执行级，用以执行所分派的微操作；以及引退级，用以管理指令的引退。