[发明专利]通过使用机器学习模块管理全局队列与多个本地队列之间的高速缓存段的分配和迁移

权利要求书

1.一种用于确定高速缓存中的高速缓存段以在由处理单元使用的本地队列与全局队列之间传输的方法，包括：

向机器学习模块提供与本地队列中的段的管理和对全局队列的访问以在本地队列与全局队列之间传输高速缓存段有关的高速缓存段管理信息，以输出最佳数量参数和传输数量参数，所述最佳数量参数包括在本地队列中维持的段的最佳数量，所述传输数量参数包括在本地队列与全局队列之间传输的高速缓存段的数量；以及

将所述最佳数量参数和所述传输数量参数发送到具有本地队列的处理单元，以使该处理单元响应于确定本地队列中的段的数量超过所述最佳数量参数，将所述传输数量参数的高速缓存段从本地队列传输到全局队列，并且响应于确定本地队列中的段的数量小于所述最佳数量参数，将所述传输数量参数的高速缓存段从全局队列传输到本地队列。

2.根据权利要求1所述的方法，其中，所述机器学习模块对于具有本地队列的多个处理单元中的每个处理单元输出所述最佳数量参数和所述传输数量参数的单独值，其中，向所述处理单元中的每个处理单元发送对于该处理单元专门计算的所述最佳数量参数和所述传输数量参数，以用于在该处理单元的本地队列与全局队列之间传输高速缓存段。

3.根据权利要求1所述的方法，还包括：

从具有本地队列的多个处理单元中的每个处理单元接收本地高速缓存段管理信息，其中，提供给所述机器学习模块的高速缓存段信息是基于从所述多个处理单元接收的所述本地高速缓存段信息。

4.根据权利要求3所述的方法，其中，响应于所述处理单元从全局队列向本地队列分配高速缓存段或将高速缓存段从本地队列迁移到全局队列，从所述处理单元中的每个处理单元接收所述本地高速缓存段管理信息。

5.根据权利要求3所述的方法，还包括：

确定多个处理单元中的每个处理单元是否已经执行了从本地队列分配高速缓存段或将高速缓存段返回到本地队列的实例的数量，其中，响应于确定所述多个处理单元中的每个处理单元已经执行了从本地队列分配高速缓存段或将高速缓存段返回到本地队列的实例的数量，将所述高速缓存段管理信息提供给所述机器学习模块。

6.根据权利要求5所述的方法，其中，响应于确定所有所述处理单元各自执行从全局队列分配高速缓存段或将高速缓存段返回到全局队列的实例的数量，将所述高速缓存段管理信息提供给所述机器学习模块。

7.根据权利要求3所述的方法，其中，与由所述处理单元对本地队列中的段的管理有关的所述高速缓存段管理信息包括至少两个输入参数，所述至少两个输入参数是输入参数集合的成员，所述输入参数集合包括：

将高速缓存段从本地队列迁移到全局队列的迁移处理单元的数量；

将高速缓存段从全局队列分配到本地队列的分配处理单元的数量；

分配给所述处理单元的高速缓存段的数量；

对于所有所述处理单元将高速缓存段从本地队列迁移到全局队列的平均速率；

对于所述处理单元中的每个处理单元将高速缓存段从全局队列分配到本地队列的平均速率；

专用于将高速缓存段从本地队列迁移到全局队列的处理单元的数量，其中，多个处理单元被临时指派为将高速缓存段从所述处理单元处的本地队列迁移到全局队列；以及

专用于将高速缓存段从全局队列分配到本地队列的处理单元的数量，其中，多个处理单元被临时指派为将高速缓存段从全局队列分配到本地队列。

8.根据权利要求3所述的方法，其中，与对全局队列的访问以在本地队列与全局队列之间传输高速缓存段有关的所述高速缓存段管理信息包括至少两个输入参数，所述至少两个输入参数是输入参数集合的成员，所述输入参数集合包括：

平均锁定争用时间，包括处理单元等待接收对访问全局队列的锁定的平均时间；

平均锁定保持时间，包括处理单元在访问全局队列时保持锁定的平均时间；以及

全局队列中的高速缓存段的最佳数量。