[发明专利]一种面向大容量片上缓存的协同预取器及其控制方法

说明书

本发明公开一种面向大容量片上缓存的协同预取器及其控制方法，协同预取器具有L1/L2/L3/L4四级缓存，L2缓存搭配针对SRAM Cache的传统预取器，L4搭配针对大容量缓存的预取器，L2级缓存的预取器把普通访存请求连同预取信息一同传递至L3级缓存中；L3级缓存控制器用于接收预取器发送的预取请求，并根据标志位信息判断携带历史信息时将预取请求送达L4级的缓存；L4级的缓存控制器用于基于历史信息扩展预取请求并进行预取。本发明通过把高级别缓存中预取器信息传递至低级别缓存，通过复用该信息，达到减少预取器中冗余历史信息、减小芯片面积的目的，同时通过对传递至低级缓存中的信息进行扩展，达到进一步提升系统性能的目的。

技术领域

本发明涉及计算机技术领域，尤其涉及一种面向大容量片上缓存的协同预取器及其控制方法。

背景技术

预取器是影响处理器性能的关键模块，预取器一般与缓存协同工作，将内存中的指令和数据在被访问之前提前存放到缓存中，从而加快处理器执行速度。

从所需片上存储面积的角度，预取器分成两类，即共享信息预取器和私有信息预取器。共享信息预取器是指，针对所有预取地址，把相关预取历史信息都存储到同一个共享的存储空间中；私有信息预取器即针对不同的预取地址段，每个段有自己单独的历史信息。

Stride Based Prefetcher是最先被提出的，其性能相比而言一般，但是所需片上存储面积也是最小的。随着预取器设计越来越复杂，所需片上存储面积也越来越大，例如Bingo Prefetcher是2019年被提出，具有较好的预取性能，但是需要较大的片上存储面积进行实现。

针对大容量片上缓存，目前所使用的预取器仍然沿用了传统的缓存预取器，由于大容量片上缓存所缓存数据量大，因此并不适用共享信息预取器，因此大都使用私有信息预取器，例如Bingo Prefetcher，Spatial Memory Prefetcher（SMP），Access Map PatternMatching Prefetcher(AMPM)等。

FHT预取器是面向大容量缓存提出的，其核心思想是针对每个内存页面，都使用一个表项存储其访问历史信息，当该页面被踢出缓存的一刻，把历史信息保存下来，当下一次再次访问该页面，则使用保存过的历史信息对数据进行预取， FHT即存储历史信息的表格，Tag array中会记录valid/dirty等信息，当页面被踢出后，其历史信息会被写入FHT中。

从存储空间角度看FHT所需片上SRAM面积较大，256MB 的片上缓存需要 144KB（存储 16K 个条目） SRAM 存储空间。随着片上缓存容量的增加， FHT 也需要相应增加才能保证其有效性。以 Intel 的 Knights Landing 处理器为例，对于 16GB片上缓存 则需要9.2 兆字节的 SRAM 存储空间，因其代价过大无法在商用处理器中大规模应用。

综上所述，现有方法中，在使用大容量片商缓存的系统中，私有信息预取器中的历史信息和面向大容量缓存的预取器独立运行，无法共享预取信息，因此造成芯片面积浪费，且预取器性能仍然有较大提升空间。

发明内容

本发明的目的在于提供一种面向大容量片上缓存的协同预取器及其控制方法，针对大容量片上缓存系统，通过在低级别缓存预取器中扩展或复用高级别缓存预取器系统中的历史信息，从而减少冗余信息进而减小芯片面积，同时通过对预取信息进行扩展可以达到提升系统性能的目的。

本发明采用的技术方案是：