[发明专利]一种基于菱形卷积的神经网络剪枝方法在审
申请号: | 201811128219.4 | 申请日: | 2018-09-27 |
公开(公告)号: | CN109376859A | 公开(公告)日: | 2019-02-22 |
发明(设计)人: | 张萌;刘文昭;李国庆;张倩茹;杨洲 | 申请(专利权)人: | 东南大学 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04 |
代理公司: | 南京苏高专利商标事务所(普通合伙) 32204 | 代理人: | 王安琪 |
地址: | 214000 江*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于菱形卷积的神经网络剪枝方法,包括如下步骤:(1)卷积神经网络输入层及卷积层增加空白行列像素;(2)卷积操作采用奇数菱形卷积核取代方形卷积核,池化操作采用方形卷积核,前向计算神经网络输出;(3)采用反向传播算法训练含有菱形卷积核的卷积神经网络,求出每个神经元的梯度,得到新的权重。本发明提出了基于菱形卷积的神经网络,用菱形卷积核取代了传统的方形卷积核,采用一范数约束卷积窗口,保留了更有效的局部感受中心,保证了网络的稀疏性,进一步解决了神经网络参数复杂度过高的问题,加快了传播速度,同时菱形卷积核有正则化作用,防止了模型过拟合,整体训练速度加快,具有更高的准确率。 | ||
搜索关键词: | 菱形 卷积核 卷积 神经网络 卷积神经网络 剪枝 神经元 神经网络参数 神经网络输出 反向传播 前向计算 算法训练 整体训练 传统的 输入层 稀疏性 正则化 准确率 池化 范数 拟合 权重 像素 保留 行列 传播 网络 保证 | ||
【主权项】:
1.一种基于菱形卷积的神经网络剪枝方法,其特征在于,包括如下步骤:(1)卷积神经网络输入层及卷积层增加空白行列像素;(2)卷积操作采用奇数菱形卷积核取代方形卷积核,池化操作采用方形卷积核,前向计算神经网络输出;(3)采用反向传播算法训练含有菱形卷积核的卷积神经网络,求出每个神经元的梯度,得到新的权重。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于东南大学,未经东南大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201811128219.4/,转载请声明来源钻瓜专利网。