[发明专利]一种实现nGraph框架支持FPGA后端设备的方法

说明书

本申请公开了一种实现nGraph框架支持FPGA后端设备的方法及相关装置，包括：将OpenCL标准API库集成到nGraph框架中；在nGraph框架中创建用于注册FPGA后端设备、初始化OpenCL环境以及获取FPGA后端设备的FPGA后端设备创建模块；在nGraph框架中创建用于开辟FPGA缓存空间以及读写FPGA缓存的FPGA缓存空间处理模块；在nGraph框架中创建用于创建OP kernel以及编译OP kernel的OP kernel实现模块；以及在nGraph框架中创建用于注册并调度执行OP kernel的FPGA编译执行模块。该方法能够使nGraph框架支持FPGA后端设备。

技术领域

本申请涉及深度学习模型训练超异构加速技术领域，特别涉及一种实现nGraph框架支持FPGA后端设备的方法；还涉及一种实现nGraph框架支持FPGA后端设备的装置及设备以及一种支持FPGA后端设备的nGraph框架。

背景技术

目前DNN(Deep Neural Network，深度神经网络)已获得了广泛的应用，包括图像和视频分类，语音识别和语言翻译。然而随着深度神经网络越来越广泛地开发和使用，模型尺寸变得越来越大，例如可达数百个层，总共有1000万到2000万个参数。这种增长使得高效的模型训练变得更加重要。Tensor flow、pytorch等深度学习框架，以及GPU、FPGA、ASIC芯片等各种硬件加速器的出现，为神经网络训练性能提升做出了巨大贡献。然而，不同的深度学习框架之间，以及不同的硬件加速设备之间的工作原理，开发及优化方法天差地别，在开发工程中想要更换深度学习框架或者想要将深度学习模型部署到其他更先进的设备时，开发者需要付出大量的精力和时间进行迁移和优化。针对上述问题，Intel推出了nGraph框架，这是一种面向各种设备和框架的深度神经网络模型编译器，可以大大简化跨框架和硬件平台实现深度学习性能优化这类工作的复杂性，扩展了深度学习模型的适用性和可移植性。目前，nGraph框架已经支持或正在开发支持的前端深度学习框架有Tensorflow、MXNet、PaddlePaddle等，已经支持或正在开发支持的后端硬件加速设备有CPU、NNP以及各类GPU。

除CPU、NNP以及各类GPU等加速设备外，FPGA因其低功耗、可编程、高度并行等特性，已经成为提高数据中心服务器性能及降低功耗的最佳选择之一。FPGA异构计算平台采用高层次综合编程模型，调用OpenCL语言对深度学习神经网络进行研究和优化，完成神经网络算法在FPGA平台上的高效移植和部署，通过充分利用板卡硬件流水设计和任务级并行，能够大幅提升深度学习神经网络算法的计算性能。然而，目前nGraph框架并不支持FPGA后端设备，鉴于FPGA具有低功耗、可编程、高度并行等特性，所以若能够使nGraph框架支持FPGA后端设备，无疑将为深度学习神经网络的训练性能够进一步提升提供巨大助力。

因此，如何实现nGraph框架支持FPGA后端设备已成为本领域技术人员亟待解决的技术问题。

发明内容

本申请的目的是提供一种实现nGraph框架支持FPGA后端设备的方法，能够使nGraph框架支持FPGA后端设备，以进一步实现将用户基于nGraph框架构建的深度学习神经网络计算图的训练或推理过程部署到FPGA后端设备进行加速的目的。本申请的另一目的是提供一种实现nGraph框架支持FPGA后端设备的装置、设备以及一种支持FPGA后端设备的nGraph框架，同样具有上述技术效果。

为解决上述技术问题，本申请提供了一种实现nGraph框架支持FPGA后端设备的方法，包括：

将OpenCL标准API库集成到nGraph框架中；

在所述nGraph框架中基于所述OpenCL标准API库创建用于注册FPGA后端设备、初始化OpenCL环境以及获取FPGA后端设备的FPGA后端设备创建模块；