[发明专利]高速缓存替换系统和方法

权利要求书

1.一种用于管理存储缓存条目的高速缓存(204)的装置(202)，其特征在于，所述装置(202)包括：

处理器(208)，用于：

接收所述缓存条目的快照；

基于所述缓存条目中的每一个的所述快照针对所述相应缓存条目计算以下值：

指示每单位时间所述相应缓存条目的平均引用次数的使用分数，和

指示所述相应缓存条目的有效寿命的时段分数；以及

根据所述计算出的所述使用分数和所述时段分数的值来指定需要进行替换的所述缓存条目的子集。

2.根据权利要求1所述的装置(202)，其特征在于，所述处理器(208)还用于基于所述缓存条目中的每一个的所述快照针对所述相应缓存条目计算脏分数，所述脏分数指示是否正在处理所述相应缓存条目，并且根据所述计算出的所述脏分数的值来进一步执行所述子集的所述指定。

3.根据前述权利要求中任一项所述的装置(202)，其特征在于，所述处理器(208)还用于：至少根据所述计算出的所述使用分数和所述时段分数的值来对所述缓存条目进行排序；以及基于替换分数要求根据所述排序来指定所述缓存条目的所述子集。

4.根据前述权利要求中任一项所述的装置(202)，其特征在于，按第一预定义速率获得所述缓存条目的所述快照，并聚合在预定义滑动窗口内获得的所述快照。

5.根据前述权利要求中任一项所述的装置(202)，其特征在于，指定需要进行替换的所述缓存项的所述子集的大小取决于预定义分数强度，所述预定义分数强度表示指定需要进行替换的缓存条目的最大百分比。

6.根据前述权利要求中任一项所述的装置(202)，其特征在于，按第二预定义速率从所述高速缓存(204)中淘汰指定需要进行替换的所述缓存项的所述子集。

7.根据前述权利要求中任一项所述的装置(202)，其特征在于，所述处理器(208)还用于至少基于所述计算出的所述使用分数和所述时段分数的值来计算分数向量，并且根据所述计算出的分数向量指定需要进行替换的所述缓存条目的所述子集。

8.根据前述权利要求中任一项所述的装置(202)，其特征在于，每个缓存条目存储具有引用的项的指示。

9.根据权利要求8所述的装置(202)，其特征在于，至少一些所述具有引用的项包括高速率高熵老鼠项。

10.根据权利要求8或9所述的装置(202)，其特征在于，计算所述使用分数的所述值作为与每个缓存条目关联的每个项的平均引用次数，并且计算所述时段分数的所述值作为与每个缓存条目关联的所述项的所述有效寿命。

11.根据前述权利要求中任一项所述的装置(202)，其特征在于，每个缓存条目存储有在计算云和云网络环境中的至少一个中实施的开放式虚拟交换机(open virtual switch，OVS)(206)的交换流项的指示。

12.根据前述权利要求中任一项所述的装置(202)，其特征在于，还包括捕获所述缓存条目中的每一个的快照的高速缓存监控设备(214)，并且所述处理器(208)还用于聚合所述快照。

13.一种用于管理存储缓存条目的高速缓存的方法，其特征在于，所述方法包括：

接收所述缓存条目的快照(102)；

基于所述相应缓存条目中的每一个的所述快照针对所述相应缓存条目计算以下值：

指示每单位时间所述相应缓存条目的平均引用次数的使用分数(104)，和

指示所述相应缓存条目的所述有效寿命的时段分数(106)；以及

根据所述计算出的所述使用分数和所述时段分数的值指定需要进行替换的所述缓存条目的子集(112)。