[发明专利]将数据高速缓存在具有在不同分层次的层级处的存储器节点的存储器系统中

说明书

背景技术

存储器系统可以被部署在各种不同类型的计算系统中。存储器系统的特性可以影响计算系统的性能。存储器系统可以利用存储器设备来实现，所述存储器设备具有比通常被包括在持久存储系统中的基于盘的存储设备更高的访问速度。在一些示例中，存储器系统可以包括一个或多个动态随机存取存储器（DRAM）设备、静态随机存取存储器（SRAM）设备、新兴非易失性存储器设备（例如，相变存储器（PCM）、自旋传输矩存储器（STT-RAM）、忆阻器等）、诸如硬驱动装置和固态驱动装置之类的传统块存储设备等。

计算系统的改进的性能可以通过采用具有较大的存储容量、具有较低数据访问等待时间、并且消耗较低功率的存储器系统来实现。在一些情况下，前述目标可能是彼此矛盾的。例如，较大容量的存??储器系统可能具有较高的等待时间。较低等待时间的存储器系统可能与较高功率消耗相关联。

附图说明

关于以下各图来描述一些实施例：

图1是根据一些实现的包括存储器系统的示例布置的框图；

图2是根据一些实现的高速缓存过程的流程图；

图3是根据一些实现的存储器节点的框图；

图4和图5是根据各种实现的数据高速缓存过程的流程图；以及

图6是根据一些实现的逐出过程的流程图。

具体实施方式

某些应用对于存储器系统中的数据存储具有相对大的需求。一种这样的应用是存储器中数据库应用，其中数据库被存储在存储器系统中，而不是在较慢的基于盘的存储系统中。与将相对大量的数据存储在存储器系统中相关联的应用可以被称作大数据应用。

与将相对大量的数据存储在存储器系统中以供有所需求的工作负载来访问相关联的问题是：存在与这样的存储器系统相关联的竞争目标。这样的竞争目标的示例包括大存储容量、低数据访问等待时间、低功率消耗和低成本。如以上所指出的，目标中的一些可能与其它目标矛盾。

技术可以被提供以在主存储器系统中（处理器高速缓存层次外）提供高速缓存以对数据的一部分进行高速缓存，这可以导致减少的数据访问等待时间。然而，主存储器系统高速缓存可能与相对高的开销相关联，并且如果被低效地设计，则可能降低性能并导致增加的功率消耗。而且，日益更复杂的存储器系统架构，诸如具有多个层级的存储器节点的存储器系统架构，可能使得高效的高速缓存设计更具挑战性。

分层次的存储器系统包括：在存储器系统的不同分层次的层级处提供的存储器节点的网络。存储器节点可以包括存储器存储阵列和高速缓存，其中高速缓存可以用于对来自相同存储器节点或不同存储器节点的存储器存储阵列的所选数据进行缓冲。根据一些实现，提供了技术或机制来确定特定数据单元（例如，存储器阵列中的数据行、存储器阵列中的数据行的子集或任何其它数据块）要被高速缓存在分层次的存储器系统中的何处。

图1是包括分层次的存储器系统100的示例布置的框图，所述分层次的存储器系统100具有被布置在多个不同分层次的层级（描绘了层级0、1、2和3）处的存储器节点。在图1的布置中，存储器节点被提供在树型网络中，其中较高层级的存储器节点（较高层级是指更接近0的层级）连接到多个较低层级的存储器节点。例如，层级0处的存储器节点102_0被连接到层级1处的两个子存储器节点102_1。类似地，层级1处的每个存储器节点102_1被连接到层级2处的两个子存储器节点102_2。此外，层级2处的每个存储器节点102_2被连接到层级3处的两个子存储器节点102_3。在图1的示例中，假设分支因子是2，其中分支因子指定被连接到父节点的子节点的数目。更一般地，分支因子可以是N，其中                                               2。在分支因子为N的情况下，父存储器节点被连接到较低层级处的N个子存储器节点。

如图1中所示，存储器节点102_0包括存储器模块103和高速缓存模块106。存储器模块103包括具有用于存储数据位的存储器单元的布置的存储器阵列104以及用于控制存储器阵列104的访问的相关联的存储器控制器105。在一些示例中，存储器模块103可以包括存储器存储体（或多个存储器存储体）。存储器节点中的存储器控制器104被称为“节点存储器控制器”。高速缓存模块106包括高速缓存存储装置107（例如，寄存器、静态随机存取存储器（SRAM）或具有比存储器存储阵列104更高的访问速度的其它存储装置。高速缓存模块106还可以包括高速缓存控制器109。