[发明专利]一种用于容器的GPU虚拟化方法及装置、电子设备

说明书

本公开涉及一种用于容器的GPU虚拟化方法及装置、电子设备，所述方法包括：对目标容器发起的第一IOCTL系统调用请求进行截获，目标容器上挂载有虚拟GPU设备，虚拟GPU设备是基于一个物理GPU设备虚拟化得到，第一IOCTL系统调用请求用于获取目标容器对应的GPU显存状态；基于第一IOCTL系统调用请求，获取对应的显存状态信息，显存状态信息为物理GPU设备中与虚拟GPU设备对应的显存信息；向目标容器返回显存状态信息，以在运行目标容器时基于显存状态信息实现GPU虚拟化。本公开实施例通过截获IOCTL系统调用请求，以在内核态下基于IOCTL实现用于容器的GPU虚拟化，从而实现容器的GPU资源共享。

技术领域

本公开涉及计算机技术领域，尤其涉及一种用于容器的GPU虚拟化方法及装置、电子设备。

背景技术

GPU虚拟化，就是将一个物理GPU设备的GPU资源(例如，显存资源、计算资源)进行切片，分成逻辑上的多个虚拟GPU设备，进而以虚拟GPU设备为单位分配物理GPU设备的GPU资源。以虚拟GPU设备为单位可以将单个物理GPU设备分配给多个客户机使用，从而可以极大地提升物理GPU设备的利用率。

发明内容

本公开提出了一种用于容器的GPU虚拟化方法及装置、电子设备的技术方案。

根据本公开的一方面，提供了一种用于容器的GPU虚拟化方法，包括：对目标容器发起的第一IOCTL系统调用请求进行截获，其中，所述目标容器上挂载有虚拟GPU设备，所述虚拟GPU设备是基于一个物理GPU设备虚拟化得到，所述第一IOCTL系统调用请求用于获取所述目标容器对应的GPU显存状态；基于所述第一IOCTL系统调用请求，获取对应的显存状态信息，其中，所述显存状态信息为所述物理GPU设备中与所述虚拟GPU设备对应的显存信息；向所述目标容器返回所述显存状态信息，以在运行所述目标容器时基于所述显存状态信息实现GPU虚拟化。

在一种可能的实现方式中，所述方法还包括：对所述目标容器发起的第二IOCTL系统调用请求进行截获，其中，所述第二IOCTL系统调用请求用于进行GPU显存申请；判断所述第二IOCTL系统调用请求对应的显存申请量，是否超过挂载在所述目标容器上的所述虚拟GPU设备对应的显存挂载量；在所述显存申请量超过所述显存挂载量时，向所述目标容器返回提示信息，其中，所述提示信息用于提示本次显存申请显存溢出。

在一种可能的实现方式中，所述方法还包括：在所述显存申请量未超过所述显存挂载量时，基于所述显存申请量，为所述目标容器调用所述物理GPU设备的显存资源。

在一种可能的实现方式中，所述目标容器基于目标组件对应的IOCTL接口，发起所述第一IOCTL系统调用请求/所述第二IOCTL系统调用请求；所述目标组件包括下述至少一种：OpenCL、CUDA。

在一种可能的实现方式中，所述目标容器的个数为多个；针对任意一个所述目标容器，挂载在所述目标容器上的所述虚拟GPU设备设置有对应的GPU时间片，其中，所述GPU时间片用于指示所述物理GPU设备的计算资源。

在一种可能的实现方式中，多个所述目标容器对应的计算资源调度模式为弱隔离模式；在所述弱隔离模式下，在第i个目标容器上没有负载运行时，将第j个目标容器对应的负载在所述第i个目标容器对应的GPU时间片上运行，其中，i和j为不同的正整数。

在一种可能的实现方式中，多个所述目标容器对应的计算资源调度模式为强隔离模式；在所述强隔离模式下，在第i个目标容器上没有负载运行时，第j个目标容器对应的负载无法在所述第i个目标容器对应的GPU时间片上运行，其中，i和j为不同的正整数。