[发明专利]基于Pytorch框架的卷积神经网络在FPGA上的快速部署方法

权利要求书

1.一种基于Pytorch框架的卷积神经网络在FPGA上的快速部署方法，其特征在于，包括如下步骤：

步骤一、建立模型快速映射机制，Pytorch框架下卷积神经网络模型拓扑结构的各层按照上下层输入输出顺序进行命名，构建在Pytorch框架中模型各层命名规则，按照命名规则对模型各层进行重命名；对重命名后的网络模型进行训练，得到带有网络拓扑结构的神经网络模型文件，对模型训练后得到的神经网络模型文件进行各层分解存储，每层存储为一个重命名后的二进制文件，完成在Pytorch框架下模型文件的网络拓扑结构建立；

步骤二、可重配置计算单元构建，包括硬件资源约束条件下的优化策略计算和建立基于硬件优化策略的模板库，用于生成FPGA端的可重配置计算单元；

步骤三、基于规则映射的自适应处理流程，解析神经网络模型文件中各层的配置信息，并通过FPGA端的可重配置计算单元进行FPGA控制逻辑自适应配置，最终生成神经网络加速器。

2.根据权利要求1所述的一种基于Pytorch框架的卷积神经网络在FPGA上的快速部署方法，其特征在于，所述步骤(1)中，对卷积神经网络中的每一层进行命名，命名规则是本层名+下层名+配置信息。

3.根据权利要求2所述的一种基于Pytorch框架的卷积神经网络在FPGA上的快速部署方法，其特征在于，卷积层配置信息为：卷积核尺寸_步长_补零；池化层配置信息为：池化窗口尺寸_步长_补零，BN层和激活层无需配置信息。

4.根据权利要求1所述的一种基于Pytorch框架的卷积神经网络在FPGA上的快速部署方法，其特征在于，所述步骤(3)中，在神经网络模型文件分解和存储阶段，首先对训练得到的神经网络模型文件进行一次前向传播，每当读取到神经网络模型的一层后，将其中的参数保存至二进制文件中，所述二进制文件的文件名即对应层的名称。

5.根据权利要求1所述的一种基于Pytorch框架的卷积神经网络在FPGA上的快速部署方法，其特征在于，所述步骤二具体包括：

(1)在硬件资源约束条件下进行优化策略计算，根据当前硬件的资源选择FPGA部署所采用的优化策略；

(2)建立基于硬件优化策略的模板库，在FPGA部署时直接调用模板库中相应的模板文件。

6.根据权利要求5所述的一种基于Pytorch框架的卷积神经网络在FPGA上的快速部署方法，其特征在于，所述步骤(1)中硬件优化策略包括特征图分块尺寸、输入特征图并行度、输出特征图并行度的设置。

7.根据权利要求5所述的基于Pytorch框架的卷积神经网络在FPGA上的快速部署方法，其特征在于，所述步骤(2)中基于硬件优化策略的模板库主要包括卷积模块、BN层模块、激活层模块、池化模块、全连接层计算模块和输入输出特征图缓冲模块。

8.根据权利要求7所述的基于Pytorch框架的卷积神经网络在FPGA上的快速部署方法，其特征在于，所述卷积模块包含权重参数缓存区，在卷积开始前首先根据卷积层配置参数对卷积模块进行配置，配置完成后将权重以数据流的形式加载至权重参数缓存区，即权重文件；所述步骤三具体包括：创建一个structure结构，在FPGA端读取对应层的权重文件，根据权重文件名称解析出配置信息，根据配置信息更新所述structure结构，并保存下一层的名字以从权重文件中找到要执行的下层信息。

9.根据权利要求8所述的基于Pytorch框架的卷积神经网络在FPGA上的快速部署方法，其特征在于，structure结构维护的信息包括硬件优化参数、卷积层配置参数、BN层配置参数、池化层配置参数和本层及下层的名称。