[发明专利]缓存系统及其运作方法

说明书

本发明提供一种缓存系统及其运作方法。所述系统包括上级缓存单元及末级缓存。末级缓存包括目录、多个计数器及寄存器。目录包括状态指示值，此状态指示值指示上级缓存单元对末级缓存的使用状态。前述计数器分别依据状态指示值递增或递减计数值、记录来自上级缓存单元的存取数以及记录上级缓存单元存取末级缓存的存取命中数。依据计数值、存取数及存取命中数选取寄存器的第一参数，以调整上级缓存单元对末级缓存的使用策略。

技术领域

本发明是有关于一种缓存系统及其运作方法，且特别是有关于一种可依上级缓存单元对于末级缓存(last level cache，LLC)的使用情况调整相关存取策略的缓存系统及其运作方法。

背景技术

在多级多核的缓存系统中，在不同核心上的线程(thread)相互对末级共享缓存(last level shared cache)的使用进行竞争。对于整个系统而言，末级缓存(last levelcache，LLC)的使用及工作效率为一项重要的议题，且其对于整体效能的影响至关重大。

为了更为完全地使用末级缓存以达到更佳的效能，本领域技术人员有必要针对相关的软件及硬件研发出一种可达到更佳效能的缓存运作机制。

发明内容

有鉴于此，本发明提出一种缓存系统及缓存系统的运作方法，其可提升末级缓存的使用效率，从而改善整体系统的效能。

本发明提供一种缓存系统，包括第一上级缓存单元及末级缓存。末级缓存耦接于第一上级缓存单元，包括目录、多个第一计数器及寄存器。目录包括第一状态指示值，第一状态指示值用于记录第一上级缓存单元对末级缓存的使用状态。前述第一计数器分别执行依据第一状态指示值递增或递减第一计数值、记录来自第一上级缓存单元的第一存取数以及记录第一上级缓存单元存取末级缓存的第一存取命中数的操作。依据第一计数值、第一存取数及第一存取命中数选取该寄存器的第一参数，以调整第一上级缓存单元对末级缓存的使用策略。

本发明提出一种缓存系统的运作方法，其中缓存系统包括相互耦接的第一上级缓存单元及末级缓存，所述方法包括：通过末级缓存的目录的第一状态指示值记录第一上级缓存单元对末级缓存的使用状态；通过末级缓存的多个第一计数器分别执行依据第一状态指示值递增或递减第一计数值、记录来自第一上级缓存单元的第一存取数以及记录第一上级缓存单元存取末级缓存的第一存取命中数的操作；以及依据第一计数值、第一存取数及第一存取命中数选取末级缓存的寄存器的第一参数，以调整第一上级缓存单元对末级缓存的使用策略。

基于上述，本发明提出的缓存系统及其运作方法可通过设置于末级缓存中的目录、寄存器及对应于各上级缓存单元的利用计数器的计数值、存取计数器的存取数及命中计数器的存取命中数调整上级缓存单元对于末级缓存的使用策略。借此，可使得各上级缓单元对于末级缓存的使用策略更具弹性，从而改善整体的运作效能，并避免例如缓存污染等问题。

为让本发明的上述特征和优点能更明显易懂，下文特举实施例，并配合附图作详细说明如下。

附图说明

图1是依据本发明之一实施例绘示的具有二级缓存架构的处理器示意图。

图2是依据图1实施例绘示的末级缓存中目录的示意图。

图3A是依据图1、图2实施例绘示的以目录记录多级缓存状态的示意图。

图3B是依据图1、图2实施例绘示的以目录记录多级缓存状态的另一示意图。

图3C是依据图1、图2实施例绘示的以目录记录多级缓存状态的又一示意图。

图4是依据图1、图2实施例绘示的第二级缓存示意图。

图5是依据图4绘示的利用配置寄存器结构图。

图6是依据本发明之一实施例绘示的具有三级缓存架构的处理器示意图。