[发明专利]基于平衡权重稀疏和Group Lasso正则化的自适应DNN压缩方法在审
申请号: | 202310452205.2 | 申请日: | 2023-04-25 |
公开(公告)号: | CN116451586A | 公开(公告)日: | 2023-07-18 |
发明(设计)人: | 张彤;陈聪;朱琨;冯佳欣 | 申请(专利权)人: | 南京航空航天大学 |
主分类号: | G06F30/27 | 分类号: | G06F30/27;G06N3/0464;G06N3/082;G06F18/24;G06F18/25;G06F111/04 |
代理公司: | 南京合砺专利商标代理事务所(普通合伙) 32518 | 代理人: | 鲍小龙 |
地址: | 210016 江*** | 国省代码: | 江苏;32 |
权利要求书: | 暂无信息 | 说明书: | 暂无信息 |
摘要: | 本发明公开了一种基于平衡权重稀疏和GroupLasso正则化的自适应DNN压缩方法,属于模型压缩领域。该方法根据要满足的模型推理速度要求和模型部署时的存储大小限制,从而完成DNN的自适应模型剪枝。本发明结合多种剪枝方法并面向实时嵌入式系统对模型进行剪枝,主要包括以下步骤:引入模型参数,添加正则项定义模型优化问题,预训练神经网络模型,然后针对预训练模型的全连接层进行平衡权重稀疏剪枝,针对平衡权重稀疏剪枝后的模型卷积层进行结构化剪枝和节点剪枝,最后根据是否满足约束选择迭代剪枝或者结束剪枝得到压缩后模型。 | ||
搜索关键词: | 基于 平衡 权重 稀疏 group lasso 正则 自适应 dnn 压缩 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京航空航天大学,未经南京航空航天大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202310452205.2/,转载请声明来源钻瓜专利网。