[发明专利]一种实现nGraph框架支持FPGA后端设备的方法

权利要求书

1.一种实现nGraph框架支持FPGA后端设备的方法，其特征在于，包括：

将OpenCL标准API库集成到nGraph框架中；

在所述nGraph框架中基于所述OpenCL标准API库创建用于注册FPGA后端设备、初始化OpenCL环境以及获取FPGA后端设备的FPGA后端设备创建模块；

在所述nGraph框架中基于所述OpenCL标准API库创建用于开辟FPGA缓存空间以及读写FPGA缓存的FPGA缓存空间处理模块；

在所述nGraph框架中基于所述OpenCL标准API库创建用于创建OP kernel以及编译所述OP kernel的OP kernel实现模块；

在所述nGraph框架中基于所述OpenCL标准API库创建用于注册并调度执行所述OPkernel的FPGA编译执行模块。

2.根据权利要求1所述的方法，其特征在于，所述将OpenCL标准API库集成到nGraph框架中，包括：

在nGraph框架的源码中添加所述OpencCL标准API库；

修改所述nGraph框架的cmake编译文件，将所述OpencCL标准API库编译为所述nGraph框架内的动态链接库。

3.根据权利要求2所述的方法，其特征在于，所述在所述nGraph框架中基于所述OpenCL标准API库创建用于注册FPGA后端设备、初始化OpenCL环境以及获取FPGA后端设备的FPGA后端设备创建模块，包括：

在所述nGraph框架中创建用于注册FPGA后端设备的FPGA后端设备注册子模块；

在所述nGraph框架中基于所述OpenCL标准API库创建用于调用初始化OpenCL环境的OpenCL环境初始化子模块；

在所述nGraph框架中基于所述OpenCL标准API库创建用于获取FPGA后端设备的FPGA后端设备获取子模块。

4.根据权利要求3所述的方法，其特征在于，所述在所述nGraph框架中基于所述OpenCL标准API库创建用于开辟FPGA缓存空间以及读写FPGA缓存的FPGA缓存空间处理模块，包括：

在所述nGraph框架中基于所述OpenCL标准API库创建用于开辟FPGA缓存空间的FPGA缓存空间开辟子模块；

在所述nGraph框架中基于所述OpenCL标准API库创建用于将待处理数据从主机端写入所述FPGA缓存的写FPGA缓存子模块；

在所述nGraph框架中基于所述OpenCL标准API库创建用于从所述FPGA缓存中读取数据处理结果并将数据处理结果传回所述主机端的读FPGA缓存子模块。

5.根据权利要求4所述的方法，其特征在于，所述在所述nGraph框架中基于所述OpenCL标准API库创建用于创建OP kernel以及编译所述OP kernel的OP kernel实现模块，包括：

在所述nGraph框架中创建用于支持FPGA后端OP kernel的OP kernel创建子模块；

在所述nGraph框架中创建用于编译所述OP kernel并获取编译得到的aocx文件的OPkernel编译子模块。

6.根据权利要求5所述的方法，其特征在于，在所述nGraph框架中基于所述OpenCL标准API库创建用于注册并调度执行所述OP kernel的FPGA编译执行模块，包括：

在所述nGraph框架中创建用于注册所述OP kernel的OP kernel注册子模块；

在所述nGraph框架中创建用于优化计算图的计算图优化子模块；

在所述nGraph框架中创建用于确定所述计算图中各OP的执行顺序，根据所述执行顺序启动所述OP kernel进行计算的OP kernel调度执行子模块。