[发明专利]共享替换策略计算机高速缓存系统和方法

说明书

本发明的系统和方法的实施例利用窥探过滤器提供牺牲品独占高速缓存中的高速缓存替换，在重新引用回CPU时在窥探过滤器中不丢失替换信息。替换信息存储在窥探过滤器中，这表示，可完全保存历史访问数据，并且允许LLC再插入点具有更大的灵活性，同时在L2高速缓存中不存储额外比特。本发明的系统和方法还包括窥探过滤器替换技术。当事务将高速缓存行移进移出主CPU时，本发明的系统和方法在窥探过滤器与牺牲品独占高速缓存(例如，LLC)之间传递替换信息。这样保持和发展了在读操作时针对从牺牲品独占高速缓存去除的高速缓存行的现有替换信息，以及智能地替换窥探过滤器中的高速缓存行并使其变旧。

相关申请的交叉引用

本申请要求于2017年3月27日提交的待审美国临时专利申请No.62/477,412的权益，该申请以引用方式并入本文中。

技术领域

本公开涉及数字高速缓存，并且更具体地说，涉及具有存储的替换信息的窥探过滤器，以及包括牺牲品独占高速缓存和窥探过滤器共享替换策略的相关方法和系统。

背景技术

通常将中央处理单元(CPU)中的最后一级高速缓存(LLC)的大小设置为保存最近存储器访问的几兆字节(MB)数据或指令行，从而与动态随机存取存储器(DRAM)相比，降低来自CPU自身请求的延迟。尽管这种高速缓存相对于CPU内部的1级(L1)高速缓存或2级(L2)高速缓存较大，但LLC(特别是在多个CPU之间共享的LLC)接收/发送来自多个线程的所有存储器流量，这会很快地填满该高速缓存。当高速缓存填满容量并为了最大性能需要选择牺牲的数据和保持的数据时，通常应用高速缓存替换策略或方法。

LLC或共享高速缓存可为包容性的或独占的。独占共享高速缓存有时被称作牺牲品高速缓存。包容性高速缓存是这样一种高速缓存，其中将由主CPU保持的各个数据或指令行以冗余方式拷贝在高速缓存自身中。跟踪高速缓存行的冗余拷贝以及标签状态允许实现这样一种隐含的零成本窥探过滤器，其中任何外部存储器请求或探查和/或探测可通过LLC本身过滤和服务，从而减少到主CPU的存储器流量。高速缓存行是与高速缓存条目关联的一组数据。

与包容性高速缓存相反，牺牲品独占高速缓存是这样一种高速缓存，其中只有在主CPU牺牲掉(即，弹出)一个高速缓存行之后才发生数据存储。牺牲品独占高速缓存不保持其主CPU的数据行。这样，通过不用冗余数据污染LLC条目，提供了更有效的唯一本地高速缓存存储，代价是存储器探查和/或探测增加并且一致性流复杂度更大。牺牲品独占高速缓存通常添加专用窥探过滤器来跟踪存在于主CPU而不是高速缓存中的高速缓存行的一致性状态，以恢复到主CPU的存储器流量的减小。窥探过滤器是跟踪高速缓存行的元状态(而不是它们的数据有效负载)的LLC存储。这样有助于减少牺牲品LLC或者没有本地高速缓存的结构(fabric)的流量问题。

通常，高速缓存替换策略应用于包容性高速缓存，并且较少用于牺牲品独占高速缓存。牺牲品独占高速缓存具有这样的定义，即，当高速缓存行被主CPU重新引用时取消分配该高速缓存行，这对于尝试跟踪历史的高速缓存替换策略不利。

发明内容

实施例包括一种共享替换策略计算机高速缓存系统。所述系统可包括主处理器、以通信方式连接至主处理器的牺牲品独占最后一级高速缓存(LLC)和以通信方式连接至牺牲品独占LLC和主处理器的窥探过滤器。窥探过滤器被构造为存储替换信息。系统可包括替换状态机，其被构造为管理牺牲品独占LLC与具有存储的替换信息的窥探过滤器之间的替换操作。

本发明的系统和方法的实施例利用窥探过滤器提供牺牲品独占高速缓存中的高速缓存替换，在重新引用回CPU时在窥探过滤器中不丢失替换信息。替换信息存储在窥探过滤器中，这表示，可完全保存历史访问数据。本发明的系统和方法还包括窥探过滤器替换技术。当事务将高速缓存行移进移出主CPU时，本发明的系统和方法在窥探过滤器与牺牲品独占高速缓存(例如，LLC)之间传递替换信息。这样保持和发展了在读操作时针对从牺牲品独占高速缓存去除的高速缓存行的现有替换信息，以及智能地替换窥探过滤器中的高速缓存行并使其变旧。