[发明专利]一种实现kubernetes容器远程调度使用GPU方法和装置

摘要

本发明涉及RPC通信技术领域，具体为一种实现kubernetes容器远程调度使用GPU方法和装置，包括以下步骤：部署Kubernetes集群，使用“kubectl label node”为GPU节点和非GPU节点打标签；在非GPU节点上部署官方的CUDA Runtime API；在GPU节点上部署官方的GPU Driver API，即GPU驱动；在非GPU节点上部署远程CUDA调用的客户端服务组件；有益效果为：本发明提出的实现kubernetes容器远程调度使用GPU方法和装置通过虚拟化技术在没有物理GPU的节点上创建虚拟GPU设备，并将它们注册到Kubernetes节点上，使得Kubernetes可以将需要GPU资源的容器调度到没有物理GPU的节点上，并将它们绑定到虚拟GPU设备，从而实现GPU资源的共享，提升GPU的利用率，降低硬件和软件成本。