[发明专利]一种基于改进爬山法的非对称多核架构下预取控制策略

说明书

本发明涉及一种基于改进爬山法的非对称多核架构下预取控制策略，属缓存预取、非对称多核领域。该方法考虑非对称多核架构下核心之间的性能不同这一情况，通过改进后的爬山法，针对不同核心对其预取激进程度进行控制，提高核心的IPC。预取激进程度由预取度和预取距离进行刻画，考虑到爬山法会陷入局部最优解，通过与模拟退火策略结合的方式跳出局部最优。同时考虑到爬山法不适用于解决二维搜索问题，本方法采用控制变量的方式，通过采样阶段的IPC反馈，进行预取策略的调整，提升核心的IPC。该方法利用爬山法，根据程序运行的不同阶段，对不同核心的预取激进程度进行调整，实现不同核心的IPC增长。

技术领域

本发明属于缓存预取、非对称多核领域，具体涉及一种基于改进爬山法的非对称多核架构下预取控制策略。

背景技术

缓存作为一种CPU和主存储器之间缓冲部件，为平衡两者之间的频率和容量的关系发挥着重要作用。为了能够让缓存的作用得以充分的发挥，缓存预取作为一种成熟的技术，能够在一定程度上减少缓存缺失的情况，提高缓存的命中率。缓存预取的基本思想在于，它能够通过某种策略去预测未来可能缺失的缓存块，从而提前向存储器请求该缓存块的数据，如果成功的预测了缺失的缓存块，那么就会减少缓存缺失的时延，从而提高系统整体的性能。

缓存预取通常与两个指标有着密切的关系：预取距离和预取度。以常用的流式预取器为例，他会记录以某种跨度为规律出现的缺失地址，如果这类符合规律的缺失地址出现次数达到了某一阈值，预取器就会判定后续可能出现以该规律缺失的地址，这一阈值就被称为预取距离。当预取器判定该规律生效时，一次会发出多个后续地址的请求，该请求数目就被称为预取度。

在整个系统中，会出现两种访存请求，一种是CPU发生数据缺失时的访存请求，这类请求被称为需求请求，这类请求会造成CPU的停顿，给系统性能带来影响，另一类请求被称为预取请求，这类请求在成功预测缺失地址时，会减少CPU的停顿时间，从而给系统带来提升。对于单核处理器来说，预取在比较激进的情况下，可以取得比较好的效果，但是对于多核处理器来说，激进的预取可能会带来相反的效果，因为过多的预取请求会造成末级共享缓存和主存储器的带宽饱和，从而造成需求请求的响应时间更长，CPU的停顿时间也就会相应变长，从而造成系统性能下降。

激进的预取策略通常能够给预取请求准确的应用程序带来更高的性能提升，但同时也可能会给末级缓存和主存储器的带宽带来较大压力。当末级缓存和主存储器带宽饱和时，需求请求的响应则会变长，从而影响系统的整体性能。已经有很多学者在这方面做了研究，其中Ebrahimi等说明了多核心下激进预取引起性能下降以及存储器带宽浪费这一情况，并提出了一种多层次的激进预取控制策略(HPAC)，该策略可以动态调整多个核心的预取器激进程度来控制预取器引起的内核间干扰。Panda提出HPAC没有考虑多个预取器的节流策略之间的影响，在此基础之上提出了协同预取控制策略(SPAC)，它探索了预取器的限制决策之间的相互作用，并根据多核系统的公平加速比改进来控制预取器的激进程度。同时，Panda等提出预取控制策略的一些弊端，常用的预取控制策略通常设定固定的阈值，这些阈值根据系统的配置需要做出对应变化，并且没有一个阈值可以很好的适用于所有工作负载，为了克服这些缺点，作者提出了CAFFEE这一预取控制策略。ridharan等说明CAFFEE因为末级缓存未命中的损失存在近似估计，从而导致有偏差的决策，作者基于两个观察提出了Band-Pass预取控制策略。Heirman等基于检测延迟的预取并调整预取距离以密切跟踪大多数预取不延迟的点这一原理，提出了近端节流这一思想。以往的预取控制策略通常基于同构的体系结构，他们的核心配置是相同的，这些策略对核心有相同的控制要求，这种控制策略往往通过预取准确率、预取覆盖率、预取造成的缓存污染情况等指标，设定对应的阈值，当评判指标到达阈值以后，对激进预取进行控制。然而，这类预取策略将不会适用于非对称多核架构，例如大小核架构。