[发明专利]基于特征分析的自蒸馏学习方法、设备以及可读存储介质

权利要求书

1.一种基于特征分析的自蒸馏学习方法，其特征在于，所述自蒸馏学习方法包括：

基于卷积神经网络的深度和原始结构，以设定的深度区间将所述卷积神经网络的卷积层划分为n个部分的特征层，n为正整数且n≥2；

将训练集输入所述卷积神经网络进行训练，获取每一部分特征层的损失函数；

基于所有特征层的损失函数优化所述卷积神经网络，得到训练好的卷积神经网络；

所述卷积神经网络划分的特征层至少包括浅层特征层、中层特征层以及深层特征层，其中，所述浅层特征层、所述中层特征层以及所述深层特征层依次连接；

其中，所述浅层特征层的损失函数用于训练人体结构的位置信息，所述中层特征层的损失函数用于训练人体成对相似关键点的配对信息，所述深层特征层的损失函数用于训练人体关键点的特征分布信息。

2.根据权利要求1所述的基于特征分析的自蒸馏学习方法，其特征在于，所述将训练集输入所述卷积神经网络进行训练的步骤，包括：

将所述训练集输入所述浅层特征层，得到浅层特征知识；

将所述浅层特征知识输入所述中层特征层，得到中层特征知识；

将所述中层特征知识输入所述深层特征层，得到深层特征知识。

3.根据权利要求2所述的基于特征分析的自蒸馏学习方法，其特征在于，所述自蒸馏学习方法还包括：

将所述训练集输入所述浅层特征层，得到所述浅层特征层的损失因子；

基于所述浅层特征层的损失因子输出所述浅层特征层的结构损失函数；

其中，所述结构损失函数的函数结构基于所述浅层特征层的特异性特点进行设计。

4.根据权利要求2所述的基于特征分析的自蒸馏学习方法，其特征在于，所述自蒸馏学习方法还包括：

将所述浅层特征知识输入所述中层特征层，得到所述中层特征层的损失因子；

基于所述中层特征层的损失因子输出所述中层特征层的配对损失函数；

其中，所述配对损失函数的函数结构基于所述中层特征层的特异性特点进行设计。

5.根据权利要求2所述的基于特征分析的自蒸馏学习方法，其特征在于，所述自蒸馏学习方法还包括：

将所述中层特征知识输入所述深层特征层，得到所述深层特征层的损失因子；

基于所述深层特征层的损失因子输出所述深层特征层的概率分布损失函数；

其中，所述概率分布损失函数的函数结构基于所述深层特征层的特异性特点进行设计。

6.根据权利要求1所述的基于特征分析的自蒸馏学习方法，其特征在于，所述基于所有特征层的损失函数优化所述卷积神经网络，得到训练好的卷积神经网络的步骤，包括：

获取所述卷积神经网络输出的整体损失函数；

按照预设权重将所述整体损失函数以所述每一部分特征层的损失函数加权处理，得到目标损失函数；

基于所述目标损失函数优化所述卷积神经网络，得到训练好的卷积神经网络。

7.根据权利要求6所述的基于特征分析的自蒸馏学习方法，其特征在于，所述自蒸馏学习方法还包括

所述按照预设权重将所述整体损失函数以所述每一部分特征层的损失函数加权处理，得到目标损失函数的步骤，包括：

将所述每一部分特征层的损失函数的值进行比较；

按照比较结果设置所述每一部分特征层的损失函数的权重值；

按照所述每一部分特征层的损失函数的权重值将所述整体损失函数以所述每一部分特征层的损失函数加权处理，得到所述目标损失函数。