[发明专利]基于带对称跨层连接的卷积神经网络半监督特征学习方法在审
申请号: | 201810238288.4 | 申请日: | 2018-03-22 |
公开(公告)号: | CN108564166A | 公开(公告)日: | 2018-09-21 |
发明(设计)人: | 杨育彬;董剑峰;毛晓蛟 | 申请(专利权)人: | 南京大学 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 江苏圣典律师事务所 32237 | 代理人: | 胡建华;于瀚文 |
地址: | 210023 江苏省南*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了基于带对称跨层连接的卷积神经网络半监督特征学习方法,包含如下步骤:生成无类标受损图像数据集;构建跨层连接卷积神经网络;预训练图像恢复神经网络;提取网络参数构建分类网络;训练分类网络。本发明利用对无类标图像数据的恢复任务,预训练神经网络,从而提高对有类标图像的分类效果,实现半监督特征学习。此外,通过在传统卷积神经网络自动编码器中加入对称跨层连接,使得网络更易优化,并增强网络中层特征抽象能力,使得无监督图像恢复任务得到的网络权重更易迁移于有监督学习任务。本发明实现了高效、准确的基于卷积神经网络的半监督学习方法,因此具有较高的实用价值。 | ||
搜索关键词: | 卷积神经网络 跨层 特征学习 半监督 类标 对称 构建 训练神经网络 半监督学习 自动编码器 网络 抽象能力 分类网络 分类效果 神经网络 受损图像 图像恢复 图像数据 网络参数 训练分类 训练图像 数据集 网络权 无监督 恢复 迁移 中层 图像 优化 监督 学习 | ||
【主权项】:
1.基于带对称跨层连接的卷积神经网络半监督特征学习方法,其特征在于,包括如下步骤:步骤1,生成无类标和有类标数据集:采集有类标和无类标图像数据,对每张图像做随机裁剪和归一化处理,得到有类标图像集合X0和无类标图像集合Y,根据图像分辨率大小,对集合Y中图像进行不同的破坏,得到破坏后的无类标图像集X1,设Z为有类标图像类标向量,Z={z1,z2,…,zn},zi表示第i张图像类标,i取值为1~n,则(X1,Y)组成用于非监督预训练的无类标训练数据集合,(X0,Z)作为有监督训练的有类标训练数据集合;步骤2,构建预训练图像恢复网络:根据输入图像大小构建图像恢复网络,设网络总深度为D层,D为偶数,其中前D/2层为卷积层,后D/2层为反卷积层,卷积核大小取为3x3,输入为步骤1中破坏后的图像集X1中的图像,输出为网络恢复后图像;步骤3,训练图像恢复网络:使用ADAM优化算法,采用步骤1得到的训练集(X1,Y)对步骤2所构建网络进行训练,以集合X1中受破坏图像作为输入,并以集合Y中对应的无损图像作为网络监督信息,训练后记录图像恢复网络前D/2层每一层权重W和偏置b;步骤4,构建有监督分类网络:以步骤2构建的图像恢复网络为模板,根据输入图像大小构建D/2层网络,均为卷积层,并加入Max‑pooling层和Softmax层,同时对卷积层参数使用步骤3中训练好网络对应权重W和偏置b进行初始化;步骤5,训练分类网络,将步骤4中构建并初始化的分类网络使用ADAM优化算法,在有类标图像数据上进行训练,直到算法收敛。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京大学,未经南京大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201810238288.4/,转载请声明来源钻瓜专利网。