[发明专利]人脸识别模型建立方法、人脸识别方法和电子设备在审
申请号: | 202211387574.X | 申请日: | 2022-11-07 |
公开(公告)号: | CN115909441A | 公开(公告)日: | 2023-04-04 |
发明(设计)人: | 朱翔昱;雷震;张晓宇;赵唯松 | 申请(专利权)人: | 中国科学院自动化研究所 |
主分类号: | G06V40/16 | 分类号: | G06V40/16;G06V10/82;G06V10/74;G06N3/0464;G06N3/045;G06N3/082;G06N3/0499 |
代理公司: | 北京路浩知识产权代理有限公司 11002 | 代理人: | 刘雯 |
地址: | 100190 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 识别 模型 建立 方法 电子设备 | ||
本发明提供一种人脸识别模型建立方法、人脸识别方法和电子设备。该方法包括:构建初始学生网络模型;将训练图像集进行分组后,逐组输入所述初始学生网络模型和预训练的教师网络模型,输出得到多组相互对应的学生网络特征向量集合和教师网络特征向量集合;针对每个学生网络特征向量和每个教师网络特征向量,分别计算与各类别特征向量之间的余弦相似度,对余弦相似度进行分组;分别根据对应的余弦相似度的分组结果对初始损失函数进行解耦和筛选,根据的筛选结果对初始学生网络的参数进行优化,完成一次优化迭代过程;重复上述步骤,直至得到收敛的学生网络模型,作为人脸识别模型。该方法降低了知识蒸馏的难度,且得到的人脸识别模型性能较好。
技术领域
本发明涉及人脸识别技术领域,尤其涉及一种人脸识别模型建立方法、人脸识别方法和电子设备。
背景技术
由于大量的数据驱动与优秀模型算法的提出,使得人脸识别可以达到非常高的精准率,但是识别性能更好的模型通常要求更大的模型规模。随着移动设备的普及,对具有分辨力的轻量级模型有着极大的需求。
传统知识蒸馏技术旨在利用具有良好识别性能的大规模的模型(教师网络)指导更轻量级的模型(学生网络)的训练,传统的知识蒸馏方法主要分为基于特征蒸馏与基于概率输出蒸馏。
然而特征蒸馏通常需要保持学生网络与教师网络的网络输出特征维度一致,灵活性较低;基于概率输出的蒸馏不需要保持一致的特征维度,但由于人脸识别模型训练的身份类数较大,相应地增大了蒸馏任务的难度,使得蒸馏任务的可行性较低,且由于轻量的学生网络的建模能力有限,难以缩小与教师网络之间巨大的性能差距,得到的学生网络的性能较差。
发明内容
本发明提供一种人脸识别模型建立方法、人脸识别方法和电子设备,用以解决现有技术中的通过知识蒸馏技术获得学生网络时,灵活性较低、蒸馏任务难度较大、得到的学生网络性能较差的缺陷,实现一种灵活性较高,蒸馏任务难度小,得到的学生网络性能较好的基于知识蒸馏的人脸识别模型建立方法。
本发明提供一种人脸识别模型建立方法,包括:
构建初始学生网络模型;
将训练图像集进行分组后,逐组输入所述初始学生网络模型和预训练的教师网络模型,输出得到多组相互对应的学生网络特征向量集合和教师网络特征向量集合;
针对每组相互对应的所述学生网络特征向量集合和所述教师网络特征向量集合中的每个学生网络特征向量和每个教师网络特征向量,分别通过全连接分类网络计算与各类别特征向量之间的余弦相似度,并分别对每个学生网络特征向量和每个教师网络特征向量对应的余弦相似度进行分组;
基于每组相互对应的所述学生网络特征向量集合和所述教师网络特征向量集合,分别根据对应的余弦相似度的分组结果对初始损失函数进行解耦和筛选,根据每组的筛选结果分别对所述初始学生网络的参数进行优化,完成一次优化迭代过程;
重复上述步骤,对构建的初始学生网络模型进行多次优化迭代过程,直至所述初始学生网络模型收敛得到学生网络模型,将所述学生网络模型作为人脸识别模型。
根据本发明提供的一种人脸识别模型建立方法,所述将训练图像集进行分组后,逐组输入所述初始学生网络模型和预训练的教师网络模型,输出得到多组相互对应的学生网络特征向量集合和教师网络特征向量集合,包括:
将所述训练图像集划分为N个子训练集;
将第1个子训练集同时输入所述初始学生网络模型和预训练的所述教师网络模型,输出得到相互对应的第1学生网络特征向量集合和第1教师网络特征向量集合;
重复上述步骤,直至将第N个子训练集同时输入所述初始学生网络模型和预训练的所述教师网络模型,输出得到相互对应的第N学生网络特征向量集合和第N教师网络特征向量集合。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院自动化研究所,未经中国科学院自动化研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211387574.X/2.html,转载请声明来源钻瓜专利网。