[发明专利]一种基于蒸馏学习的人脸图像年龄识别模型训练方法及年龄识别方法在审
申请号: | 202310578097.3 | 申请日: | 2023-05-22 |
公开(公告)号: | CN116665270A | 公开(公告)日: | 2023-08-29 |
发明(设计)人: | 刘淑敏;邹军;高岚 | 申请(专利权)人: | 四川长虹电器股份有限公司 |
主分类号: | G06V40/16 | 分类号: | G06V40/16;G06V10/82;G06N3/096 |
代理公司: | 四川省天策知识产权代理有限公司 51213 | 代理人: | 龙海飞 |
地址: | 621000 四*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 蒸馏 学习 图像 年龄 识别 模型 训练 方法 | ||
1.一种基于蒸馏学习的人脸图像年龄识别模型训练方法,其特征在于,包括以下步骤,
准备步骤:制作训练数据、读取训练数据、读取训练模型配置参数、对年龄训练图像进行预处理;
第一年龄识别模型训练:采用特征提取模块作为第一年龄识别模型,使用平滑标签结合类别权重、均方差联合损失优化训练所述第一年龄识别模型,直至Loss下降到稳定状态,停止第一年龄识别模型训练;
第二年龄识别模型训练:采用另一特征提取模块作为第二年龄识别模型,由第一年龄识别模型训练第二年龄识别模型,直至第二年龄识别模型的Loss下降到稳定状态,停止训练。
2.如权利要求1所述的一种基于蒸馏学习的人脸图像年龄识别模型训练方法,其特征在于,所述制作训练数据,包括数据清洗和人脸校正;
所述读取训练数据,可以使用清理好的公司提供数据集,也可以使用公开数据集;
所述读取训练模型配置参数,包括学习率,迭代次数;
所述对年龄训练图像进行预处理包括人脸校正、图像增强处理、等比例扩大处理。
3.如权利要求1所述的一种基于蒸馏学习的人脸图像年龄识别模型训练方法,其特征在于,所述第一年龄识别模型训练具体包括以下步骤:
所述特征提取模块为轻量级MobileNetV2,MobileNetV2作为年龄识别模型backbone,模型的通道参数alpha设置为1.4,表示模型每一个block的输出通道数为c*alpha,提取年龄识别特征;
采用softmax层作为年龄识别模型的输出,输出维数为71;
使用均方差函数监督年龄识别训练所述第一年龄识别模型,直至Loss下降到稳定状态,停止第一年龄识别模型训练。
4.如权利要求3所述的一种基于蒸馏学习的人脸图像年龄识别模型训练方法,其特征在于,在使用均方差函数监督年龄识别训练所述第一年龄识别模型时,可以在模型训练过程中添加类别权重,也可以使用平滑标签结合互补熵。
5.如权利要求3所述的一种基于蒸馏学习的人脸图像年龄识别模型训练方法,其特征在于,训练所述第一年龄识别模型时,使用Nadam优化器对模型进行方向梯度迭代优化,并设置初始学习率,观察Loss收敛下降情况,分阶段调整学习率大小。
6.如权利要求1所述的一种基于蒸馏学习的人脸图像年龄识别模型训练方法,其特征在于,所述第二年龄识别模型训练具体包括以下步骤中的一种:
可以将第一年龄识别模型的输出f1作为学生模型的标签,训练学生模型;
也可以采用第一年龄识别模型和第二年龄识别模型相互学习的方式训练模型,这时两个模型输出可以互为标签训练模型。
7.如权利要求6所述的一种基于蒸馏学习的人脸图像年龄识别模型训练方法,其特征在于,所述第二年龄识别模型训练采用蒸馏训练年龄识别模型,在优化损失中加入硬标签损失,输出loss为两种标签所得到的均方差加权求和。
8.一种基于蒸馏学习的人脸图像的年龄识别方法,其特征在于,将优化好的第二年龄识别模型softmax输出结果取top5,并将top5输出归一化后与对应年龄类别标签值加权求和,作为最终的估计年龄值。
9.如权利要求8所述的一种基于蒸馏学习的人脸图像的年龄识别方法,其特征在于,
所述年龄评价指标mae计算公式如下:
其中,μi为年龄平滑标签;
δi为跟μi同维度的向量,用于截取模型输出pi,截取区间与软标签的区间对应;
δi为平滑标签对应的softmax输出区间提取函数;
pi为模型softmax输出。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于四川长虹电器股份有限公司,未经四川长虹电器股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310578097.3/1.html,转载请声明来源钻瓜专利网。
- 彩色图像和单色图像的图像处理
- 图像编码/图像解码方法以及图像编码/图像解码装置
- 图像处理装置、图像形成装置、图像读取装置、图像处理方法
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序以及图像解码程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序、以及图像解码程序
- 图像形成设备、图像形成系统和图像形成方法
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序