[发明专利]高性能数据缓存系统和方法

说明书

技术领域

本发明涉及计算机，通讯及集成电路领域。

背景技术

通常而言，缓存的作用是将内存中的一部分内容复制在其中，使这些内容能在短时间内由处理器核快速存取，以保证流水线的持续运行。

现行缓存的寻址都基于以下方式，首先用地址中的索引段寻址读出标签存储器中的标签。同时用地址中索引段与块内位移段共同寻址读出缓存中的内容。此外，将标签存储器中读出的标签与地址中的标签段进行匹配。如果从标签存储器中读出的标签与地址中的标签段相同，那么从缓存中读出的内容有效，称为缓存命中。否则，如果从标签存储器中读出的标签与地址中的标签段不相同，成为缓存缺失，从缓存中读出的内容无效。对于多路组相联的缓存，同时对各个路组并行进行上述操作，以检测哪个路组缓存命中。命中路组对应的读出内容为有效内容。若所有路组都为缺失，则所有读出内容都无效。缓存缺失之后，缓存控制逻辑将低级存储媒介中的内容填充到缓存中。

缓存缺失可分为三类状况：强制缺失、冲突缺失和容量缺失。在现有缓存结构中，除了预取成功的小部分内容外，强制缺失是不可避免的。但是，现有的预取操作会带来不小的代价。此外，虽然多路组相联缓存可以降低冲突缺失，但受制于功耗及速度限制(如因为多路组相联缓存结构要求将所有路组由同一索引寻址的内容及标签同时读出并比较)，路组数难以超过一定数目。此外，为了使缓存的速度与处理器核的运行速度匹配，很难增加缓存的容量。所以有多层次缓存的设置，低层次的缓存比高层次的缓存容量大但速度慢。

因此，现代的缓存系统通常由多路组相连的多层次缓存构成。新的缓存结构，如：牺牲缓存、跟踪缓存以及预取(取一个缓存块时把下一个缓存块也取来放在缓存缓冲器或使用预取指令)等被用来弥补现有的某些缺陷。然而，随着日渐扩大的处理器/存储器速度鸿沟，现行体系结构，特别是多种多样的缓存缺失的可能性，仍是制约现代处理器性能提升的最严重瓶颈。

本发明提出的方法与系统装置能直接解决上述或其他的一个或多个困难。

发明内容

本发明提出一种用于辅助处理器核运行的方法，所述处理器核连接一个包含数据的第一存储器和一个比第一存储器速度更快的第二存储器，且所述处理器核用于执行一段包含至少一条使用一个基地址在第二存储器中访问数据的指令。所述方法包括：对指令进行审查，生成每条数据访问指令对应的基地址寄存器值的变化步长；根据基地址寄存器值的变化步长计算下次执行该数据访问指令时可能的数据寻址地址；根据计算得到的下次执行该数据访问指令时可能的数据寻址地址预取数据并存储在第二存储器中。

本发明还提出一种用于辅助处理器核运行的方法，所述处理器核连接一个包含数据的第一存储器和一个比第一存储器速度更快的第二存储器，且所述处理器核用于执行一段包含至少一条使用一个基地址在第二存储器中数据访问指令。所述方法包括：对指令段进行审查，从而提取出至少包含数据访问指令信息和最后更新基地址寄存器指令信息的指令信息；在最后更新至少一条数据访问指令所用的基地址寄存器的指令执行后，根据指令段对应的轨道将第一存储器中的数据填充到第二存储器中。

本发明还提出一种用于辅助处理器核运行的方法，所述处理器核连接一个包含数据的第一存储器、一个比第一存储器速度更快的第二存储器和一个比第二存储器速度更快的第三存储器，且所述处理器核用于执行一段包含至少一条在第三存储器中数据访问指令。所述方法包括：对指令进行审查，生成每条数据访问指令对应的基地址寄存器值的变化步长；根据基地址寄存器值的变化步长计算下次执行该数据访问指令时可能的数据寻址地址；根据计算得到的下次执行该数据访问指令时可能的数据寻址地址预取数据并存储在第三存储器中；将第三存储器中因内容替换而被移出第三存储器的数据存储在第二存储器中；将第二存储器中因内容替换而被移出第二存储器的数据写回第一存储器。

对于本领域专业人士，还可以在本发明的说明、权利要求和附图的启发下，理解、领会本发明所包含其他方面内容。

有益效果