[发明专利]基于特征图变化对卷积神经网络剪枝的方法在审
| 申请号: | 201711011383.2 | 申请日: | 2017-10-26 |
| 公开(公告)号: | CN109711528A | 公开(公告)日: | 2019-05-03 |
| 发明(设计)人: | 王瑜;江帆;盛骁;韩松;单羿 | 申请(专利权)人: | 北京深鉴智能科技有限公司 |
| 主分类号: | G06N3/04 | 分类号: | G06N3/04 |
| 代理公司: | 北京卓孚知识产权代理事务所(普通合伙) 11523 | 代理人: | 刘光明;任宇 |
| 地址: | 100083 北京市海淀*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | 本公开提供一种基于特征图变化对卷积神经网络剪枝的方法。本发明通过将卷积层中的部分过滤器去除的方式实现了对整个网络的压缩,这一过程称为剪枝。本发明主要贡献是根据特征图的变化情况确定单个卷积层中过滤器的剪枝准则,利用该准则对网络敏感度进行分析,并最终根据网络的敏感度对整个网络进行剪枝。 | ||
| 搜索关键词: | 剪枝 特征图 卷积神经网络 整个网络 敏感度 卷积 过滤器 中过滤器 去除 网络 压缩 分析 | ||
【主权项】:
1.一种在卷积神经网络中基于特征图变化对卷积层中的过滤器进行剪枝的方法,其中,对于包含n个过滤器的第i个卷积层,期望移除掉其中的m个过滤器,所述方法包括:(1)对原始的神经网络模型运行一次前向计算,得到第i+k个卷积层生成的特征图x,其中k为任意正整数;(2)遍历第i个卷积层中的所有n个过滤器;(3)将当前遍历到的第j个过滤器移除掉,其余过滤器与原始网络模型相同,生成一个新的模型;(4)在新模型上运行一次前向计算,得到第i+k个卷积层生成的特征图x’;(5)计算x与x’的特征图差值;(6)遍历所有n个过滤器之后,将n个过滤器按照x与x’的特征图差值进行排序;(7)选取所述特征图差值最小的m个过滤器作为移除掉的过滤器。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京深鉴智能科技有限公司,未经北京深鉴智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201711011383.2/,转载请声明来源钻瓜专利网。





