[发明专利]一种通用的嵌入式平台的行人检测模型训练方法

权利要求书

1.一种通用的基于嵌入式平台的行人检测模型的训练方法，其特征在于，包括：

（1）数据集的准备，进行图像标准化；

（2）训练浮点模型，采用降低浮点数位数进行深度学习模型训练；

（3）微调量化卷积层，使用上一步骤（2）得到的浮点模型，并将模型的路径添加到微调量化卷积脚本中进行微调，得到微调量化卷积层；

（4）应用步骤（3）线性变换微调的模型，利用已标注的样本对预训练参数进行调整，以针对行人检测任务来修正模型网络；

（5）模型效果测试，利用测试集测试行人检测模型的准确率和召回率；

步骤（5）中，

其中准确率的计算公式为：

召回率的计算公式为：

其中，P表示准确率，TP表示行人检测模型将包含行人的窗口预测为真的数量，FP表示行人检测模型将不包含行人的窗口预测为真的数量，FN表示行人检测模型将包含行人的窗口预测为假的数量。

2.根据权利要求1所述一种通用的基于嵌入式平台的行人检测模型的训练方法，其特征在于，步骤（1）中图像标准化是将图像中像素值减去各个通道的均值再除以各个通道的标准差。

3.根据权利要求1所述一种通用的基于嵌入式平台的行人检测模型的训练方法，其特征在于，步骤（1）中数据集为Caltech数据集，对图像进行预处理，将图像的宽高分别更改尺寸到448像素。

4.根据权利要求1所述一种通用的基于嵌入式平台的行人检测模型的训练方法，其特征在于，步骤（2）中通过16位浮点数进行深度学习模型训练。

5.根据权利要求1所述一种通用的基于嵌入式平台的行人检测模型的训练方法，其特征在于，步骤（2）中在caffe框架下进行训练，使用GPU进行模型训练。

6.根据权利要求1所述一种通用的基于嵌入式平台的行人检测模型的训练方法，其特征在于，步骤（3）中利用微调量化卷积层替换原有的卷积层。

7.根据权利要求1所述一种通用的基于嵌入式平台的行人检测模型的训练方法，其特征在于，步骤（4）中学习速率设置为0.00001，然后将得到的模型直接应用到嵌入式平台上。

8.根据权利要求1所述一种通用的基于嵌入式平台的行人检测模型的训练方法，其特征在于，步骤（3）中，对卷积层对应微调量化后，与之对应的非线性激活层也进行对应量化。