[发明专利]一种基于kubernetes的FPGA虚拟化训练的方法、设备及介质

说明书

本发明公开了一种基于kubernetes的FPGA虚拟化训练的方法，包括以下步骤：在训练模型上添加对FPGA的注册和发现；编写FPGA的算子并进行封装，并将封装文件烧写到FPGA上；运行FPGA的驱动程序以完成与训练模型的数据交互；以及将训练模型程序封装到kubernetes的配置文件上，并在kubernetes中基于FPGA执行训练。本发明提出的基于kubernetes的FPGA虚拟化训练的方法、设备及介质利用TensorFlow原有的运行机制和编程接口，增加对FPGA设备训练的支持；并利用Kubernetes的device plugin机制增加对FPGA设备的支持，用户可以在kubernetes中正常使用FPGA资源。

技术领域

本发明涉及机器学习技术领域，更具体地，特别是指一种基于kubernetes的FPGA虚拟化训练的方法、设备及可读介质。

背景技术

目前很多厂商可以使FPGA板卡支持tensorflow模型的推理(通过特定编译器将tensorflow模型编译成与FPGA匹配的bit流文件，并下载到FPGA中使用)，但TensorFlow不支持在FPGA上的训练。TensorFlow现在只支持CPU、GPU、TPU，尚未支持FPGA，kubernetes现在也不支持FPGA设备的虚拟化，不能在TensorFlow中使用kubernetes上的已经虚拟化的FPGA进行训练加速，因此有些需要在线上部署且需要在线训练的模型无法使用。

发明内容

有鉴于此，本发明实施例的目的在于提出一种基于kubernetes的FPGA虚拟化训练的方法、设备及介质，利用TensorFlow原有的运行机制和编程接口，增加对FPGA设备训练的支持；并利用Kubernetes的device plugin机制增加对FPGA设备的支持，用户可以在kubernetes中正常使用FPGA资源。

基于上述目的，本发明实施例的一方面提供了一种基于kubernetes的FPGA虚拟化训练的方法，包括如下步骤：在训练模型上添加对FPGA的注册和发现；编写FPGA的算子并进行封装，并将封装文件烧写到FPGA上；运行FPGA的驱动程序以完成与训练模型的数据交互；以及将训练模型程序封装到kubernetes的配置文件上，并在kubernetes中基于FPGA执行训练。

在一些实施方式中，编写FPGA的算子并进行封装，将封装文件烧写到FPGA上还包括：编写训练模型应用层程序并指定FPGA作为资源目的；Kubernetes通过device plugin机制增加对FPGA的支持。

在一些实施方式中，运行FPGA的驱动程序以完成与训练模型的数据交互包括：通过FPGA的高速串行传输驱动和应用程序接口的连接，完成中央处理器和FPGA的数据交互。

在一些实施方式中，将训练模型程序封装到kubernetes的配置文件上，在kubernetes中基于FPGA执行训练还包括：编写在kubernetes中的配置文件yaml文件，yaml文件指定生成的pod启动后调用训练模型进行训练；将yaml文件生成的pod调度到拥有FPGA资源的kubernetes节点上；启动pod，在kubernetes中使用FPGA进行训练。

在一些实施方式中，还包括：训练模型为tensorflow模型。

本发明实施例的另一方面，还提供了一种计算机设备，包括：至少一个处理器；以及存储器，存储器存储有可在处理器上运行的计算机指令，指令由处理器执行以实现如下步骤：在训练模型上添加对FPGA的注册和发现；编写FPGA的算子并进行封装，并将封装文件烧写到FPGA上；运行FPGA的驱动程序以完成与训练模型的数据交互；以及将训练模型程序封装到kubernetes的配置文件上，并在kubernetes中基于FPGA执行训练。