[发明专利]一种缓存冲突检测方法、装置及系统

说明书

技术领域

本发明涉及高速缓存技术领域，尤其涉及一种缓存冲突检测方法、装置及系统。

背景技术

高速缓冲存储器(Cache)简称高速缓存，介于处理器(Processor)与主存储器之间，由于主存储器的存取速度无法与处理器相匹配，因此，某些即将被用到的指令或数据就被调入存取速度能与处理器相匹配的高速缓存中备用。而随着多线程处理器和多核处理器的出现，高速缓存开始被共享使用。因为使用程度不同，所以共享高速缓存的多个使用方对高速缓存的使用存在竞争冲突。若不缓和使用方之间的竞争冲突，则会降低系统整体效率。

目前，使用线程调度的方法缓和使用方之间对共享高速缓存的竞争冲突：根据每个使用方对共享高速缓存的访问失效次数计算对应的高速缓存失效率(Cache Miss Rate，CMR)，失效率越高，说明该使用方与其它使用方可能存在越严重的冲突，因此，系统可根据失效率对使用方进行调度，以缓和使用方之间对共享高速缓存的竞争冲突，从而提高系统的整体效率。

但是，上述技术方案中，调度依据为高速缓存失效率。计算高速缓存失效率所使用的访问失效次数是基于整个共享高速缓存而进行统计的，而共享高速缓存中实际包括多个高速缓存组(Cache Sets，CS)，使用方可能仅对个别高速缓存组进行访问，因此，根据访问失效次数计算的高速缓存失效率并不能全面、细粒度地反映使用方之间对共享高速缓存的竞争冲突程度。

发明内容

本发明实施例提供了一种缓存冲突检测方法、装置及系统，用于全面细粒度地反映使用方之间对共享高速缓存的竞争冲突程度，通过实施本发明方案，能够精确反映使用方之间对共享高速缓存的竞争冲突程度，并提供数值，从而提高调度的效率。

一种缓存冲突检测方法，包括：

将共享高速缓存中的多个高速缓存组平均划分为N个超级组，所述高速缓存组的数量为所述N的正整数倍；

计算预设时间内各个使用方对各个超级组的命中次数；

根据所述命中次数生成各个使用方的命中向量，所述命中向量为N维向量；

根据所述命中向量计算每两个使用方之间的命中向量相似度，所述命中向量相似度用于指示两个使用方之间对所述共享高速缓存的竞争程度；

根据所述命中向量相似度识别对所述共享高速缓存存在竞争冲突的使用方。

一种缓存冲突检测装置，包括：

划分单元，用于将共享高速缓存中的多个高速缓存组平均划分为N个超级组，所述高速缓存组的数量为所述N的正整数倍；

计数单元，用于计算预设时间内各个使用方对各个超级组的命中次数；

生成单元，用于根据所述命中次数生成各个使用方的命中向量，所述命中向量为N维向量；

计算单元，用于根据所述命中向量计算每两个使用方之间的命中向量相似度，所述命中向量相似度用于指示两个使用方之间对所述共享高速缓存的竞争程度；

识别单元，用于根据所述命中向量相似度识别对所述共享高速缓存存在竞争冲突的使用方。

一种缓存冲突检测系统，包括：至少两个使用方、共享高速缓存和缓存冲突检测装置，

所述至少两个使用方，用于共享所述共享高速缓存；

所述共享高速缓存包括多个高速缓存组；

所述缓存冲突检测装置，用于检测所述至少两个使用方对所述共享高速缓存的竞争冲突，所述缓存冲突检测装置为如上所述的缓存冲突检测装置。

从以上技术方案可以看出，本发明实施例具有以下优点：

通过将共享高速缓存中的高速缓存组划分为若干个超级组，并基于各个超级组计算各个使用方的命中次数，从而生成命中向量，计算每两个使用方之间的命中向量相似度，以此为依据识别使用方之间的竞争冲突。对比基于整个共享高速缓存访问失效次数进行计算的高速缓存失效率，本实施例提供的命中向量相似度具有更细的粒度，能够全面反映使用方之间对共享高速缓存的竞争冲突程度。

附图说明

图1为本发明的系统示意图；

图2为本发明第一实施例的缓存冲突检测方法流程图；

图3为本发明第二实施例的缓存冲突检测方法流程图；

图4为本发明第三实施例的缓存冲突检测装置结构图；

图5为本发明第四实施例的缓存冲突检测装置结构图；

图6为本发明第五实施例的缓存冲突检测系统结构图。

具体实施方式