[发明专利]基于容器的图形处理器虚拟化资源调度方法及其装置

权利要求书

1.一种基于容器的图形处理器虚拟化资源调度方法，其特征在于，所述容器中的进程共享同一张图形处理器GPU卡的算力资源，每个所述进程在每个调度周期内被分配对应的GPU时间片，所述方法包括：

响应于在第一调度周期内的GPU时间片到来，确定与所述GPU时间片匹配的第一进程；

确定所述第一进程是否有计算需求；

响应于所述第一进程有计算需求，根据所述计算需求，从所述第一进程在所述调度周期内分配的GPU时间片和/或所述第一进程的突发缓冲区中，确定所述第一进程的执行时间片；其中，所述执行时间片用于辅助所述第一进程完成计算；所述突发缓冲区用于存储空闲的GPU时间片，所述空闲的GPU时间片是指所述第一进程未消耗的GPU时间片。

2.如权利要求1所述的方法，其特征在于，所述方法还包括：

响应于所述第一进程没有计算需求，将所述第一进程在所述第一调度周期内分配的GPU时间片存储至所述第一进程的所述突发缓冲区。

3.如权利要求1所述的方法，其特征在于，所述根据所述计算需求，从所述第一进程在所述调度周期内分配的GPU时间片和/或所述第一进程的突发缓冲区中，确定所述第一进程的执行时间片，包括：

根据所述计算需求，确定所述第一进程计算所需的时间；

根据所述第一进程计算所需的时间，从所述第一进程在所述调度周期内分配的GPU时间片和/或所述第一进程的突发缓冲区中，确定所述第一进程的执行时间片。

4.如权利要求3所述的方法，其特征在于，所述根据所述第一进程计算所需的时间，从所述第一进程在所述调度周期内分配的GPU时间片和/或所述第一进程的突发缓冲区中，确定所述第一进程的执行时间片，包括：

响应于所述第一进程计算所需的时间大于所述第一进程在所述第一调度周期内分配的第一GPU时间片，根据所述第一进程计算所需的时间和所述第一GPU时间片，从所述第一进程的突发缓冲区中获取待借用GPU时间片；

根据所述待借用GPU时间片，更新所述突发缓冲区中存储的剩余空闲GPU时间片；

根据所述第一GPU时间片和所述待借用GPU时间片，确定所述第一进程的执行时间片。

5.如权利要求4所述的方法，其特征在于，所述根据所述第一进程计算所需的时间，从所述第一进程在所述调度周期内分配的GPU时间片和/或所述第一进程的突发缓冲区中，确定所述第一进程的执行时间片，还包括：

响应于所述第一进程计算所需的时间等于所述第一进程在所述第一调度周期内分配的第一GPU时间片，将所述第一GPU时间片确定为所述第一进程的执行时间片；

或者，响应于所述第一进程计算所需的时间小于所述第一进程在所述第一调度周期内分配的第一GPU时间片，根据所述第一进程计算所需的时间，将所述第一GPU时间片的部分时间片确定为所述第一进程的执行时间片。

6.如权利要求5所述的方法，其特征在于，所述方法还包括：

将所述第一GPU时间片的其他部分时间片存储至所述第一进程的所述突发缓冲区；其中，所述其他部分时间片为所述第一GPU时间片中除所述部分时间片之外的剩余时间片。

7.如权利要求1至6中任一项所述的方法，其特征在于，所述方法还包括：

响应于所述第一进程的突发缓冲区中存储的GPU时间片过期，从所述第一进程的突发缓冲区中剔除所述过期的GPU时间片。