[发明专利]访存处理方法和装置、存储装置、芯片、板卡、电子设备

说明书

本公开实施例提供一种访存处理方法和装置、存储装置、芯片、板卡、电子设备，所述访存请求处理装置应用于多级缓存，所述多级缓存中的各级缓存共享同一块存储空间，所述存储空间包括多个存储单元，每级缓存对应至少一个存储单元；所述访存请求处理装置包括控制单元和映射单元；控制单元用于响应于接收到访存请求，提取出访存请求中携带的地址信息，并将地址信息发送至映射单元；映射单元用于根据所述地址信息确定待访问的至少一级缓存中每级缓存对应的存储单元，以使所述控制单元基于所述访存请求访问所述每级缓存对应的存储单元。

技术领域

本公开涉及缓存技术领域，尤其涉及访存处理方法和装置、存储装置、芯片、电子设备、板卡。

背景技术

随着人工智能和高性能计算的不断发展，计算系统所需要的系统带宽日趋庞大。在计算过程中，通过层级化的存储结构(例如，多级缓存)能有效的提高存储系统的性能。然而，相关技术中的多级缓存中每个缓存实体均使用独立的存储单元，当某些缓存实体不使能时，会浪费存储空间。

发明内容

第一方面，本公开实施例提供一种访存请求处理装置，应用于多级缓存，所述多级缓存中的各级缓存共享同一块存储空间，所述存储空间包括多个存储单元，每级缓存对应至少一个存储单元；所述访存请求处理装置包括：控制单元和映射单元；所述控制单元，用于响应于接收到访存请求，提取出所述访存请求中携带的地址信息，并将所述地址信息发送至所述映射单元；所述映射单元，用于根据所述地址信息确定待访问的至少一级缓存中每级缓存对应的存储单元，以使所述控制单元基于所述访存请求访问所述每级缓存对应的存储单元。

在一些实施例中，所述映射单元，用于：基于预先存储的配置信息，从所述地址信息中提取出至少一级缓存中每级缓存的索引信息，并将提取出的索引信息返回给所述控制单元，以使所述控制单元基于所述索引信息向所述至少一级缓存中每级缓存对应的存储单元发送所述访存请求，每级缓存的索引信息用于确定所述每级缓存对应的存储单元的地址。

在一些实施例中，至少两种配置信息确定出的索引信息所指示的各级缓存对应的存储单元的数量不同。

在一些实施例中，所述控制单元还用于：在当前级缓存未命中的情况下，记录未命中状态；在获取到下一级缓存返回的数据的情况下，根据所述未命中状态，将下一级缓存返回的数据写入当前级缓存对应的存储单元并返回给上一级缓存对应的存储单元；和/或在当前级缓存命中的情况下，将当前级缓存对应的存储单元中存储的数据返回处于当前级缓存之前的各级缓存对应的存储单元。

在一些实施例中，每个存储单元均包括标识信息，用于标识所述存储单元中是否存储有效数据；所述控制单元用于：每访问一级缓存对应的存储单元，基于该级缓存对应的存储单元的标识信息，确定该级缓存是否命中。

在一些实施例中，所述标识信息包括数据标识信息和地址标识信息，所述数据标识信息用于标识所述存储单元中是否存储数据，所述地址标识信息用于标识所述存储单元中存储的数据在内存中的存储地址；所述控制单元用于：每访问一级缓存对应的存储单元，基于该级缓存对应的存储单元的数据标识信息和地址标识信息，确定该级缓存是否命中。

在一些实施例中，所述控制单元用于：在第一条件和第二条件均满足的情况下，确定该级缓存命中；和/或在第一条件和第二条件中的至少一者不满足的情况下，确定该级缓存未命中；所述第一条件为：该级缓存对应的存储单元的数据标识信息指示该级缓存对应的存储单元已存储数据；所述第二条件为：该级缓存对应的存储单元的地址标识信息指示该级缓存对应的存储单元中存储的数据在内存中的存储地址与访存请求所访问的内存地址一致。

在一些实施例中，所述控制单元包括多个第一控制子单元，所述映射单元包括多个第一映射子单元；每级缓存对应一个第一控制子单元和一个第一映射子单元；每级缓存对应的第一控制子单元，用于将所述访存请求中携带的地址信息发送至该级缓存对应的第一映射子单元；每级缓存对应的第一映射子单元，用于根据所述地址信息确定该级缓存对应的存储单元，以使该级缓存对应的第一控制子单元基于所述访存请求访问该级缓存对应的存储单元。