[发明专利]神经网络训练方法、人脸识别方法及系统和存储介质有效
申请号: | 201811630038.1 | 申请日: | 2018-12-28 |
公开(公告)号: | CN109711358B | 公开(公告)日: | 2020-09-04 |
发明(设计)人: | 孔彦;吴富章;赵宇航;赵玉军;王黎明 | 申请(专利权)人: | 北京远鉴信息技术有限公司 |
主分类号: | G06K9/00 | 分类号: | G06K9/00;G06K9/62 |
代理公司: | 北京超凡志成知识产权代理事务所(普通合伙) 11371 | 代理人: | 王文红 |
地址: | 100097 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络 训练 方法 识别 系统 存储 介质 | ||
1.一种神经网络训练方法,其特征在于,所述神经网络包括依次连接的卷积层、全连接层和损失函数模块,在单次迭代训练的过程中,所述方法包括:
获取T个特征向量,所述T个特征向量包括D个参考人脸图像的特征向量和M个样本人脸图像的特征向量,其中,所述参考人脸图像的特征向量个数D与所述全连接层的权向量个数相同,所述M个样本人脸图像中的每个样本人脸图像与所述D个参考人脸图像中的一个参考人脸图像为同一个人的人脸图像,T等于D和M的和,且T、D、M均为正整数;
将所述全连接层的学习率设为零;
将所述T个特征向量中的第t个特征向量输入到神经网络中,经过所述卷积层的处理,得到第t个输出特征向量xt,其中,t为大于等于1且小于等于T的整数,所述第t个特征向量是所述T个特征向量中的参考人脸图像的特征向量或样本人脸图像的特征向量;
将所述第t个输出特征向量在全连接层中进行归一化处理,得到第t个归一化后的输出特征向量
判断所述第t个特征向量是否为参考人脸图像的特征向量,当所述第t个特征向量是D个参考人脸图像中第d个参考人脸图像的特征向量时,将所述第t个归一化后的输出特征向量替换为全连接层的第d个权向量,其中,d为大于1且小于等于D的正整数,在所述单次迭代中,对所述D个参考人脸图像的特征向量执行完上述替换后,得到由D个归一化后的参考人脸图像输出向量组成的全连接层归一化后的权矩阵
在所述全连接层中,根据所述归一化后的输出特征向量和所述全连接层归一化后的权矩阵得到第t个分类向量ft;
将所述第t个分类向量输入到损失函数模块中,判断所述损失函数模块中的所述分类向量数量个数是否达到Nn个,其中Nn表示将总样本T切分为n份后,第n份中样本的数量,n、Nn为大于等于1,小于等于T的整数,N1,N2...Nn的和等于T;
当所述损失函数模块中的所述分类向量数量达到Nn个时,所述损失函数模块根据所述Nn个所述分类向量,得到第n个损失函数值,根据第n个损失函数值,按照指定的优化算法,优化所述卷积层的参数,并清空所述损失函数模块的所述分类向量;
按照t依次取1到T执行上述各步骤后,得到所述卷积层的目标参数。
2.根据权利要求1所述的方法,其特征在于,在所述全连接层中,根据所述归一化后的输出特征向量和所述全连接层归一化后的权矩阵得到第t个分类向量ft,所述方法包括:
将所述归一化后的输出特征向量和所述归一化后的权矩阵相乘,得到分类向量ft,其中,
相应地,在所述单次迭代中,对所述T个特征向量全部执行完上述步骤后,得到T个所述分类向量。
3.根据权利要求2所述的方法,其特征在于,所述损失函数模块根据所述Nn个所述分类向量,得到第n个损失函数值,包括:
根据指定的规则,设置所述损失函数中的余弦度量缩放参数s和损失函数中的另一余弦度量缩放参数m,其中,m大于等于0且小于等于1;
根据所述损失函数模块中的所述Nn个所述分类向量和如下公式,得到第n个损失值Ln,其中,j依次取1到Nn的整数,Nn为计算第n个损失值需要的分类向量个数,相应的,nj依次取到的整数,
其中,所述分类向量与第yj个参考人脸图像对应同一个人脸,为分类向量中的第yj个值,yj为大于等于1小于等于D的整数。
4.根据权利要求3所述的方法,其特征在于,所述指定的优化算法为随机梯度下降法,根据第n个损失函数值,按照指定的优化算法,优化所述卷积层的参数,包括:
根据预先设定的条件,设置所述随机梯度下降法的参数;
根据所述第n个损失值,按照所述随机梯度下降法,得到所述卷积层的参数,并调整所述卷积层的参数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京远鉴信息技术有限公司,未经北京远鉴信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811630038.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种人脸识别方法及装置
- 下一篇:售货机控制方法、装置和计算机可读存储介质