[发明专利]一种面向FPGA的多目标网络结构的构建方法

权利要求书

1.一种面向FPGA的多目标网络结构的构建方法，其特征在于，包括：

构建轻量化、可伸缩并易收敛的网络结构搜索候选模块，对所述候选模块在FPGA平台上的时延进行测试并记录，并设计可微化的时延指标约束函数；

设计有向无环图的过参数化网络搜索空间和设计无代理的二阶段网络搜索策略，加速网络结构的搜索过程；

将所述时延指标约束函数加入基于梯度下降的反向传播算法中，构建多目标综合搜索损失函数；根据所述多目标综合搜索损失函数，生成适配FPGA的轻量级网络结构；

其中，所述构建轻量化、可伸缩并易收敛的网络结构搜索候选模块，包括：

将卷积计算算子，激活算子，跳链接操作进行组合；所述卷积计算算子采用深度可分离算子，外加设计通道扩展因子，引入了残差结构，添加跳链接，组合成网络结构搜索候选模块；

所述设计有向无环图的过参数化网络搜索空间，包括：

根据目标任务的输入数据，预设定若干固定模块，分别在网络结构的前后两端；中间是可学习块部分，由轻量候选单元进行填充，以此形成搜索空间；

所述无代理的二阶段网络搜索策略，包括：

二值化路径的网络结构搜索优化和基于梯度的网络结构参数训练。

2.根据权利要求1所述的一种面向FPGA的多目标网络结构的构建方法，其特征在于，所述时延指标约束函数为：

其中，i表示当前的可学习块在搜索空间中的位置索引，也即代表第i个可学习块，j代表可学习块中候选路径的位置索引，p表示路径的可能性，也称为路径的权重值；E[latency_i]表示第i个可学习块的时延期望，F(·)表示时延预测模型，表示候选单元的时延。

3.根据权利要求1所述的一种面向FPGA的多目标网络结构的构建方法，其特征在于，在构建的所述多目标综合搜索损失函数中引入尺度因子，

其中Loss表示多目标综合搜索损失函数；Loss_CE表示训练网络的时候通常使用的交叉熵损失函数，通过反向传播对于网络权重进行优化；表示搜索得到的总体网络结构硬件时延的期望；λ表示尺度因子，λ∈[0,1]。