[发明专利]一种处理器缓存替换方法

说明书

本发明公开了一种新型处理器缓存替换方法。本发明包括以下步骤：SS001、设置缓存MSHR缺失重叠量信息并收集标记；SS002、统计相同数据块地址，更新历史统计；SS003、设置重叠统计寄存器表空间大小，SS004、超出的新数据块地址记录替换出重叠量最低的地址记录；SS005、替换过程中加入重叠量信息；SS006、设置重叠替换阀值；SS007、是否有超过阀值；SS008、若是，则下一次替换重叠量最大的数据块；SS009、若否，则下一次替换被替换次数最多的数据块。本发明通过在缓存MSHR部件上设置数据块缺失重叠量的记录标记装置，将在MSHR中暂存过的缺失数据块信息所对应的重叠量，标记在该数据块地址中，优先替换出历史缺失重叠信息高的数据块，优化了处理器性能，减少了程序性能产生的波动。

技术领域

本发明属于处理器性能优化领域，特别是涉及一种处理器缓存替换方法。

背景技术

现有处理器缓存替换算法，基本为类LRU(Least Recently Used)，为最近最少使用数据块，仅凭历史使用量作为替换算法判断依据。并没有利用程序的局部性信息，程序的局部性因程序而异。最近最少使用数据块在不同程序局部性的前提下，所表现出的被再次使用的频率差别较大，据此做为替换策略依据，所表现出的处理器性能会因程序而异。在程序的局部性不切合最近最少使用数据块以后使用概率小时，程序性能便会产生波动，因此存在性能瓶颈。

非阻塞式缓存设计已成为当前处理器缓存的标准结构，非阻塞式缓存的主要构成部件MSHR及其Subentry，MSHR可以在缓存缺失时暂存缺失请求数据信息，使缓存不停顿继续等待，执行后续指令。对已被暂存主缺失请求的相同数据块的后续缺失请求，可以在相应MSHR的Subentry中记录，待MSHR暂存主缺失请求数据取回后一并提交，暂存缺失请求和后续重叠缺失请求数据一并被满足。瞬时的缺失重叠量因程序的局部性不同而异，主缺失请求被MSHR暂存到数据被取回这个时间段内，聚集的后续相同数据块的重叠请求，共同分摊了主缺失请求的缺失数据取回时间。缺失重叠量越大，存储器停顿等待时间越少，处理器性能越高。

为了进一步优化上述非阻塞式缓存设计，本发明在MSHR部件中，设置数据块缺失重叠量的记录标记装置，将在MSHR中暂存过的缺失数据块信息所对应的重叠量，标记在该数据块地址中。并在缓存替换策略中加入对比评判数据块缺失重叠量历史信息的装置，根据此信息，在替换选择点，在现有替换算法基础上，优先替换出历史缺失重叠信息高的数据块，以达到处理器性能优化的目的。

发明内容

本发明的目的在于提供一种处理器缓存替换方法，通过在缓存MSHR部件上设置数据块缺失重叠量的记录标记装置，将在MSHR中暂存过的缺失数据块信息所对应的重叠量，标记在该数据块地址中，在现有替换算法基础上，优先替换出历史缺失重叠信息高的数据块，解决了传统类LRU仅凭历史使用量作为替换算法判断依据，导致程序使用偏差加大，处理器性能波动不稳定等问题。

为解决上述技术问题，本发明是通过以下技术方案实现的：

本发明为一种处理器缓存替换方法，包括如下步骤：

步骤SS001设置重叠统计寄存器对缓存MSHR相应部件上Subentry的缺失重叠量信息进行收集标记；

步骤SS002若统计相同数据块地址，则更新历史统计；

步骤SS003根据综合硬件开销确定重叠统计寄存器表空间大小；

步骤SS004超出空间的新数据块地址记录替换出寄存器表中重叠量最低的地址；

步骤SS005替换过程中加入重叠量信息；

步骤SS006设置重叠替换阈值；

步骤SS007判断寄存表中是否有超过重叠替换阈值的地址记录；

若是，则执行步骤SS008；