[发明专利]一种在FPGA和DSP上部署优化的算子库设计方法在审
| 申请号: | 202111051284.3 | 申请日: | 2021-09-08 |
| 公开(公告)号: | CN113778459A | 公开(公告)日: | 2021-12-10 |
| 发明(设计)人: | 姜宏旭;田方正;李波;张润华;李晓宾;胡宗琦;谢传良 | 申请(专利权)人: | 北京航空航天大学杭州创新研究院;北京航空航天大学 |
| 主分类号: | G06F8/60 | 分类号: | G06F8/60;G06N3/04;G06N3/063 |
| 代理公司: | 北京慕达星云知识产权代理事务所(特殊普通合伙) 11465 | 代理人: | 符继超 |
| 地址: | 310000 浙江省*** | 国省代码: | 浙江;33 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 fpga dsp 部署 优化 算子 设计 方法 | ||
1.一种在FPGA和DSP上部署优化的算子库设计方法,其特征在于,包括:
S1、对应高层的深度学习框架的算子库设计底层硬件算子库,并且对于轻量化网络中的算子进行了抽象封装,构成融合算子库;
S2、根据所述融合算子库,结合硬件本身的计算资源,采用预设的分割策略,将所述融合算子库封装成具备硬件特性的并行算子库;
S3、将所述并行算子库与重排策略相结合。
2.根据权利要求1所述的一种在FPGA和DSP上部署优化的算子库设计方法,其特征在于,步骤S1,包括:
S11、对应高层的深度学习框架的算子库,将其从python语言到c语言的重写转化,设计底层硬件算子库;
S12、对于轻量化网络中的深度可分离算子、分组卷积算子,进行了抽象封装;
S13、将硬件算子库和抽象封装后的轻量化网络算子,与激活、偏置算子进行简单的计算融合,构成融合算子库。
3.根据权利要求1所述的一种在FPGA和DSP上部署优化的算子库设计方法,其特征在于,步骤S2,包括:
S21、设计算子弹性组合规则,在融合算子库基础上,进一步实现池化算子、卷积算子和BN算子的融合,且结合存储受限特性,对于算子进行合理的拆分,以保证算子所需数据能够存储在高速存储器中;
S22、利用启发式的模型分割策略对所述融合算子库进行负载均衡的分割,形成具备硬件特性的、可弹性组合的并行算子库。
4.根据权利要求1所述的一种在FPGA和DSP上部署优化的算子库设计方法,其特征在于,步骤S3,包括:
S31、针对模型推理过程中层间数据流的写入、读取顺序,将上一个算子的输出特征图按照下一个算子中的卷积核计算顺序进行重排,生成数据流重排策略;
S32、将所述并行算子库,与所述数据流重排策略相融合。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京航空航天大学杭州创新研究院;北京航空航天大学,未经北京航空航天大学杭州创新研究院;北京航空航天大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111051284.3/1.html,转载请声明来源钻瓜专利网。





