[发明专利]基于线性判别分析准则的改进卷积神经网络性能的方法有效
申请号: | 201510566529.4 | 申请日: | 2015-09-08 |
公开(公告)号: | CN105243398B | 公开(公告)日: | 2018-09-04 |
发明(设计)人: | 龚怡宏;石伟伟;王进军;张世周 | 申请(专利权)人: | 西安交通大学 |
主分类号: | G06K9/66 | 分类号: | G06K9/66;G06N3/08 |
代理公司: | 西安通大专利代理有限责任公司 61200 | 代理人: | 闵岳峰 |
地址: | 710049 *** | 国省代码: | 陕西;61 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于线性判别分析准则的改进卷积神经网络性能的方法,属于深度学习卷积神经网络领域、脑认知领域和计算机视觉图像分类领域,包括以下步骤:1)将待处理图像集划分为训练集、验证集和测试集;2)选择一个卷积神经网络模型;3)选定步骤2)中的卷积神经网络模型的一个层,对选定层的特征做基于线性判别分析准则的正则约束,形成了一个新的卷积神经网络模型;4)按照基于mini‑batch的随机梯度下降方法,利用训练集来训练新的卷积神经网络模型,新的卷积神经网络模型训练好之后,利用训练好的卷积神经网络模型对待分类图像测试,完成分类预测。实验结果表明:本发明能够显著地提高卷积神经网络图像分类的精度。 | ||
搜索关键词: | 基于 线性 判别分析 准则 改进 卷积 神经网络 性能 方法 | ||
【主权项】:
1.基于线性判别分析准则的改进卷积神经网络性能的方法,其特征在于,包括以下步骤:1)将待处理图像集划分为训练集、验证集和测试集;2)选择一个卷积神经网络模型;3)选定步骤2)中的卷积神经网络模型的第k层,对选定层的特征做基于线性判别分析准则的正则约束,形成了一个新的卷积神经网络模型;具体方法如下:对选定的步骤2)中的卷积神经网络模型的第k层做基于线性判别分析准则的正则约束,即使得特征的类内距离逐渐变小,类间距离逐渐变大;线性判别分析准则为
其中,Trace(·)表示矩阵的迹,![]()
其中,hi表示样本Xi的第k层特征
的简写,C是类别总数,nc和πc分别表示mini‑batch中属于第c类的样本个数和第c类的下标标号的集合,mc表示第c类的样本的第k层特征的平均值,m表示mini‑batch的所有样本的第k层特征的平均值,
对选定层的特征做基于线性判别分析准则的正则约束,形成一个新的卷积神经网络模型的目标函数为:
其中,
为新的卷积神经网络模型的分类损失函数,
为第k层特征的线性判别分析准则,λ为大于零的权重系数,Xi表示原始的输入数据,即原始图像;ci∈{1,2,…,C}是相应的类别标签,即W表示选定的卷积神经网络模型的全部参数;4)按照基于mini‑batch的随机梯度下降方法,利用训练集来训练新的卷积神经网络模型,新的卷积神经网络模型训练好之后,利用训练好的卷积神经网络模型对待分类图像测试,完成分类预测。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于西安交通大学,未经西安交通大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201510566529.4/,转载请声明来源钻瓜专利网。
- 上一篇:一种用于无线点亮LED灯的电子毯
- 下一篇:一种照明雨伞