[发明专利]一种非分层缓存的复杂缓存结构优化方法

权利要求书

1.一种非分层缓存的复杂缓存结构优化方法，其特征在于，该方法包括以下步骤：

S1、构建缓存性能评估模型，并根据快速设备与慢速设备求取工作负载完成的时间；

S2、构建非分层缓存架构，将多余的工作负载卸载到容量设备，并将利用经典缓冲的分配策略升级到非分层缓存；

S3、利用非分层缓存调度器提高非分层缓存的命中率，并调整快速设备与慢速设备的负载。

2.根据权利要求1所述的一种非分层缓存的复杂缓存结构优化方法，其特征在于，所述构建缓存性能评估模型，并根据快速设备与慢速设备求取负载完成的时间包括以下步骤：

S11、设置快速设备和慢速设备；

S12、基于命中率模型，模拟工作负载的两个极端，对于一次的一个请求，求取每个请求的平均时间；

S13、对并发工作负载进行建模，根据不同的请求，在快速设备或慢速设备中求取处理不同请求的时间；

S14、根据快速设备和慢速设备中的请求时间的最大值，根据最后完成的设备求取工作负载完成的时间。

S15、根据工作负载的分割比例对工作负载的分割性能进行建模，并求取单个请求的吞吐量和集体吞吐量。

3.根据权利要求2所述的一种非分层缓存的复杂缓存结构优化方法，其特征在于，所述每个请求的平均时间的计算公式为：

T_cache,1＝H·T_hit+(1-H)·T_miss

式中，T_cache,1为，T_hit为快速设备速率的倒数，T_miss为从慢速设备中获取数据并将其安装在更快的设备中的成本，取值为H为命中率。

4.根据权利要求2所述的一种非分层缓存的复杂缓存结构优化方法，其特征在于，所述对并发工作负载进行建模，根据不同的请求，在快速设备或慢速设备中求取处理不同请求的时间包括以下步骤：

S131、根据不同的请求，设定不同的命中值，并根据命中值得出未命中值；

S132、利用快速请求数据进行请求数据接收，并将失败的数据接传输至慢速设备；

S133、计算快速设备或慢速设备中求取处理不同请求的时间。

5.根据权利要求2所述的一种非分层缓存的复杂缓存结构优化方法，其特征在于，所述根据工作负载的分割比例对工作负载的分割性能进行建模，并求取单个请求的吞吐量和集体吞吐量包括以下步骤：

S151、根据快速设备数据接收的服务比例进行工作负载的比例分割，并将剩余接收数据传输至慢速设备进行服务；

S152、利用服务消除快速设备与慢速设备请求失败的成本；

S153、计算单个请求吞吐量和集体吞吐量。

6.根据权利要求5所述的一种非分层缓存的复杂缓存结构优化方法，其特征在于，所述计算单个请求吞吐量和集体吞吐量的计算公式为：

式中，S为分割比例，R_lo为快速设备的速率，R_hi为慢速设备的速率。

7.根据权利要求5所述的一种非分层缓存的复杂缓存结构优化方法，其特征在于，所述构建非分层缓存架构，将多余的工作负载卸载到容量设备，并将利用经典缓冲的分配策略升级到非分层缓存包括以下步骤：

S21、利用经典缓存来识别工作集，将数据加载到快速设备中，并将非分层缓存的性能与经典缓存的性能一致；

S22、通过向容量设备的慢速设备发送多余的负载，并改进经典缓存；

S23、当观察到工作负载发生变化，非分层缓存将返回到经典缓存；

S24、若工作负载无法保持稳定，算法将退化为经典缓存。

8.根据权利要求7所述的一种非分层缓存的复杂缓存结构优化方法，其特征在于，所述多余的负载包括：在快速设备中没有提供额外的性能的读取未命中和在两个设备之间造成不必要的数据移动的读取未命中。