[发明专利]一种堆叠DRAM缓存的性能提升方法

说明书

本发明提供一种堆叠DRAM缓存的性能提升方法，提出行缓冲管理器，帮助缩短堆叠DRAM缓存访问延时，加速数据访问，从而提升性能。本发明包括如下步骤：S1、提出行缓冲管理器，其包括行状态表，行状态表包括多个行状态条目，每个行状态条目包括激活位、标签值序列、标签值填充位和等待请求数，以此来描述一个内存行数据的状态；S2、行缓冲管理器与数据访问请求队列相连，行缓冲管理器根据数据访问请求队列中到达的数据访问请求更新行状态表的信息；S3、行缓冲管理器与缓存控制器相连，行缓冲管理器接收来自缓存控制器的命令并更新行状态表的信息；S4、行缓冲器根据行状态表的信息，通过缓存控制器向堆叠DRAM缓存发出控制命令。

技术领域

本发明涉及一种堆叠DRAM缓存的性能提升方法。

背景技术

大数据处理背景下的内存墙问题导致片上处理器与片外存储器之间的数据传输问题恶化。集成于片上的堆叠DRAM(3D DRAM)存储器是应对这一挑战的有效方法，其优势在于高带宽、低功耗。因此，片上堆叠DRAM被用于片上最后一级缓存，暂存来自片外存储器的数据，降低片内外数据传输量，显著减少数据传输延时，有效提升系统的性能。另一方面，片上堆叠DRAM的组织结构与接口设计对缓存的访问并不友好，阻碍系统性能的进一步提升，影响其作为最后一级缓存的效能发挥。

片上堆叠DRAM包含多个可独立访问的内存块(Bank)结构，每个内存块结构包含大量以内存行(row)组织的存储单元以及行缓冲器。当发生数据访问时，DRAM控制器发起激活命令，将目标地址的内存行加载到行缓冲器再读写数据。后续访问请求的目标内存行，如果恰好位于行缓冲器中，则称为行命中(row hit)；反之，目标内存行不在当前的行缓冲器中，则称为行缺失(row miss)，必须将当前行缓冲器的数据写回内存块后，激活目标数据所在的内存行并加载到行缓冲器供访问，因此行缺失会导致很长的访问延时。由于没有写回和再激活操作，相比于引发行缺失的数据访问，行命中的数据访问延时更短、耗能更低。

每个缓存块包含数据(Data)和标签(Tag)两部分。来自片外内存的数据以缓存块的方式，按地址映射并且暂存在堆叠DRAM内存块的内存行中。按64Byte的缓存数据值和8Byte的标签值，大小为2KB的内存行可以存放28个缓存块。片外内存的容量远大于片上堆叠DRAM缓存，与传统的片上缓存相同，存在多个不同地址的数据映射到同一缓存位置的情况。所以需要借助标签值的比较，来加以区别。如果目标地址的标签值，与内存行中的标签值一致，称为缓存命中(cache hit)；反之，则是缓存缺失(cache miss)。发生缓存缺失时，数据要从片外存储器加载到缓存，导致比较长的延时。

当发生数据访问时，根据访问请求中的目标地址，定位到堆叠DRAM 内存块中的目标内存行。如果目标内存行不在行缓冲器中，则引发高能耗、高延时的行缺失；另外，即使目标内存行在行缓冲器中，也可能发生缓存缺失，导致额外的延时和能耗。

发明内容

本发明的目的在于克服现有技术中存在的上述不足，而提供一种设计合理的堆叠DRAM缓存的性能提升方法，提出行缓冲管理器，帮助缩短堆叠DRAM缓存访问延时，加速数据访问，从而提升性能。

本发明解决上述问题所采用的技术方案是：

一种堆叠DRAM缓存的性能提升方法，其特征在于，包括如下步骤：

S1、提出行缓冲管理器，其包括行状态表，行状态表包括多个行状态条目，每个行状态条目包括激活位、标签值序列、标签值填充位和等待请求数，以此来描述一个内存行数据的状态；激活位标识内存行是否加载到行缓冲器；标签值序列表示内存行中所有缓存块的标签值构成的序列；标签值填充位标识当前的标签值序列是否已经填充；等待请求数表示数据访问请求队列中以当前内存行为目标的访问请求数；

S2、行缓冲管理器与数据访问请求队列相连，行缓冲管理器根据数据访问请求队列中到达的数据访问请求更新行状态表的信息，步骤为：