[发明专利]缓存管理方法、缓存器以及存储介质

说明书

本公开提出一种用于计算设备的缓存管理的方法、缓存器以及存储介质，所述方法包括：根据所述计算设备的处理单元发出的第一请求，将对应于所述第一请求的数据存储于缓存组中的第一缓存行中，并根据所述第一请求的优先级将第一缓存行的老化数据设置为第一初始老化值。

技术领域

本公开涉及一种缓存管理方法，具体涉及一种对缓存进行优先级管理的方法、缓存器以及存储介质。

背景技术

对于计算设备来说，利用缓存存储需要经常访问的数据及其地址是一种有效的提高计算设备运行速度的方法。然而，由于快速缓存的大小和数量是有限的，如何以优化的方式对缓存中存储的内容进行管理成为了影响计算设备运行速度的一个重要原因。

目前，在例如云计算的应用中，缓存使用的服务质量(Quality of Service，QoS)的不断提升成为了一个重要的需求。在网络功能虚拟化中，服务质量需求成为新的商业模式的驱动力。这使得服务质量需求的提升(如服务可用性、服务等级、带宽、网络吞吐量以及发送延迟和终端延迟)成为新的市场中的重要趋势。

发明内容

针对以上问题，本申请提出了一种用于计算设备的缓存管理方法、缓存器以及存储介质。

根据本发明的一个方面，提供了一种用于计算设备的缓存管理方法，所述方法包括：根据所述计算设备的处理单元发出的第一请求(request)，将对应于所述第一请求的数据存储于缓存组(Cache Set)中的第一缓存行中，并根据所述第一请求的优先级将第一缓存行的老化(Age)数据设置为第一初始老化值。

在一些实施例中，所述第一请求的优先级是根据所述第一请求所属的线程的优先级确定的。

在一些实施例中，根据所述第一请求的来源(request agent)确定所述第一请求的优先级包括：当所述第一请求的来源是指令请求时，将所述第一请求的优先级设置为第一优先级，当所述第一请求的来源是数据请求时，将所述第一请求的优先级设置为第二优先级。

在一些实施例中，所述第一优先级和所述第二优先级是不同的优先级。

在一些实施例中，所述第一请求的优先级是根据所述第一请求的请求类型(request type)确定的，当所述第一请求分别是预取(pre-fetch)、需求(demand)、读取(read)、写入(write)、请求所有权(Request For Ownership)类型的请求时，将所述第一请求的优先级设置为相应的级别。

在一些实施例中，所述方法还包括：根据所述处理单元发出的第二请求，将对应于所述第二请求的数据存储于缓存组中的第二缓存行中，并根据所述第二请求的优先级，将所述第二缓存行的老化数据设置为第二初始老化值；如果其中所述第一请求的优先级高于所述第二请求的优先级，则所述第一初始老化值与驱逐(Eviction)老化值之间的距离比所述第二初始老化值与驱逐老化值之间的距离更远。

在一些实施例中，所述方法还包括接收所述处理单元发出的第三请求；当所述第三请求命中所述第一缓存行或所述第二缓存行中存储的数据时，调整被命中的缓存行的老化数据使得该老化数据距离驱逐老化值更远；当所述第三请求未命中所述缓存组中的任一缓存行时，判断所述缓存组是否已经存满，如果判断结果指示所述缓存组已经存满，则从所述缓存组中距离驱逐老化值最近的一个或多个缓存行中选取一个缓存行作为被驱逐的缓存行，将所选取的缓存行中存储的数据写回主存储器或丢弃，并写入对应于所述第三请求的数据，并根据所述第三请求的优先级将所选取的缓存行的老化数据设置为第三初始老化值。

在一些实施例中，其中当所述第三请求命中所述第一缓存行或所述第二缓存行时，调整被命中的缓存行的老化数据使得该老化数据距离驱逐老化值更远包括：当所述第三请求命中所述第一缓存行时，将所述第一缓存行的老化数据设置为预设的第一命中老化值；当所述第三请求命中所述第二缓存行时，将所述第二缓存行的老化数据设置为预设的第二命中老化值。