[发明专利]一种对网络模型的剪枝方法、装置、电子设备及存储介质在审
| 申请号: | 202010964152.9 | 申请日: | 2020-09-14 |
| 公开(公告)号: | CN112101547A | 公开(公告)日: | 2020-12-18 |
| 发明(设计)人: | 谷宇章;邱守猛;袁泽强;张晓林 | 申请(专利权)人: | 中国科学院上海微系统与信息技术研究所 |
| 主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04 |
| 代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 郝传鑫;贾允 |
| 地址: | 200050 *** | 国省代码: | 上海;31 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 网络 模型 剪枝 方法 装置 电子设备 存储 介质 | ||
1.一种对网络模型的剪枝方法,其特征在于,包括:
获取训练图像集和当前网络模型;所述当前网络模型包含多个卷积层;
基于所述训练图像集对所述当前网络模型进行剪枝处理,得到剪枝后的网络模型;
其中,所述剪枝处理的步骤包括:
将所述训练图像输入所述当前网络模型中,根据所述当前网络模型的输出确定所述多个卷积层中每个卷积层对应的参数;
基于所述每个卷积层对应的预设剪枝率,对所述每个卷积层对应的参数进行衰减处理,得到衰减参数;
若所述衰减参数与预设阈值的差值在预设区间内,剔除所述卷积层中与所述衰减参数对应的参数,得到剪枝后的网络模型。
2.根据权利要求1所述的方法,其特征在于,所述得到剪枝后的网络模型之后,还包括:
将所述剪枝后的网络模型重新确定为所述当前网络模型,返回执行所述基于所述训练图像集对所述当前网络模型进行剪枝处理,得到剪枝后的网络模型的步骤。
3.根据权利要求1所述的方法,其特征在于,所述将所述训练图像输入所述当前网络模型中,根据所述当前网络模型的输出确定所述多个卷积层中每个卷积层对应的参数,包括:
将所述训练图像输入所述当前网络模型中,根据所述当前网络模型的输出确定所述多个卷积层中每个卷积层输出的特征图集;
确定所述每个卷积层输出的特征图集对应的参数;
根据预设映射关系和所述每个卷积层输出的特征图集对应的参数,确定所述每个卷积层对应的参数。
4.根据权利要求3所述的方法,其特征在于,所述基于所述每个卷积层对应的预设剪枝率,对所述每个卷积层对应的参数进行衰减处理,得到衰减参数,包括:
基于所述每个卷积层对应的预设剪枝率,从所述每个卷积层输出的特征图集中确定目标特征图集;所述目标特征图集的通道数与所述特征图集的通道数的比值为所述预设剪枝率;
确定所述目标特征图集对应的参数;
基于预设系数对所述目标特征图集对应的参数进行衰减处理,得到过渡参数;
根据所述预设映射关系和所述过渡参数,确定所述每个卷积层对应的衰减参数。
5.根据权利要求1所述的方法,其特征在于,所述得到剪枝后的网络模型之后,还包括:
将所述剪枝后的网络模型重新确定为所述当前网络模型;
利用所述训练图像集对所述当前网络模型进行训练,得到训练后的网络模型。
6.根据权利要求5所述的方法,其特征在于,所述利用所述训练图像集对所述当前网络模型进行训练,得到训练后的网络模型,包括:
将所述训练图像输入所述当前网络模型中,根据所述当前网络模型的输出确定所述多个卷积层对应的参数集;
从所述多个卷积层对应的参数集中确定待剪枝参数集,且将所述多个卷积层对应的参数集中除所述待剪枝参数集之外的参数确定为待更新参数集;
对所述待剪枝参数集进行暂停更新处理,且对所述待更新参数集进行更新,得到训练后的网络模型。
7.一种对网络模型的剪枝装置,其特征在于,包括:
获取模块,用于获取训练图像集和当前网络模型;所述当前网络模型包含多个卷积层;
剪枝模块,用于基于所述训练图像集对所述当前网络模型进行剪枝处理,得到剪枝后的网络模型;
其中,所述剪枝处理的步骤包括:
将所述训练图像输入所述当前网络模型中,根据所述当前网络模型的输出确定所述多个卷积层中每个卷积层对应的参数;
基于所述每个卷积层对应的预设剪枝率,对所述每个卷积层对应的参数进行衰减处理,得到衰减参数;
若所述衰减参数与预设阈值的差值在预设区间内,剔除所述卷积层中与所述衰减参数对应的参数,得到剪枝后的网络模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院上海微系统与信息技术研究所,未经中国科学院上海微系统与信息技术研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010964152.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种道路井盖更换用装置
- 下一篇:一种节水淋浴喷头





