[发明专利]一种基于OPU的CNN加速方法及系统

摘要

本发明公开了一种基于OPU的CNN加速方法及系统，涉及基于FPGA的CNN加速方法领域；方法包括定义OPU指令集；编译器将不同目标网络的CNN定义文件进行转换，并根据定义的OPU指令集选择最优加速器配置映射，生成不同目标网络的指令完成映射；OPU读取上述编译后的指令，按照OPU指令集定义的并行计算模式运行指令，完成不同目标网络的加速；本发明通过定义指令类型和设置指令颗粒度、进行网络重组优化、搜索解空间获得保证最大吞吐量的映射方式、硬件采取并行计算模式，解决现有的FPGA加速工作旨在为不同的CNN生成特定的单独加速器的问题，达到了不重构FPGA加速器，通过指令快速实现不同网络配置的加速的效果。

主权项

1.一种基于OPU的CNN加速方法，其特征在于：包括如下步骤：定义OPU指令集；编译器将不同目标网络的CNN定义文件进行转换，并根据定义的OPU指令集选择最优加速器配置映射，生成不同目标网络的指令完成映射；OPU读取上述编译后的指令，按照OPU指令集定义的并行计算模式运行指令，完成不同目标网络的加速；其中，所述OPU指令集包括直接执行并为有条件指令提供配置参数的无条件指令和满足触发条件后执行的有条件指令，定义的OPU指令集根据CNN网络调研结果和加速需求对指令颗粒度进行优化设置；所述转换包括文件转换、网络的图层重组和生成统一中间表示IR；所述映射包括解析IR、根据解析信息搜索解空间获得保证最大吞吐量的映射方式和根据定义的OPU指令集将上述映射解表达为指令序列，生成不同目标网络的指令。