[发明专利]深度可分离卷积结构的低比特量化方法有效
| 申请号： | 201910931215.8 | 申请日： | 2019-09-27 |
| 公开（公告）号： | CN110659734B | 公开（公告）日： | 2022-12-23 |
| 发明（设计）人： | 吴绮;李志远;陈刚;鲁华祥;边昳 | 申请（专利权）人： | 中国科学院半导体研究所 |
| 主分类号： | G06N3/08 | 分类号： | G06N3/08;G06N3/04 |
| 代理公司： | 中科专利商标代理有限责任公司 11021 | 代理人： | 吴梦圆 |
| 地址： | 100083 *** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 一种深度可分离卷积结构的低比特量化方法，该方法包括：选择量化系数对训练结束的深度可分离卷积神经网络的权重和特征图数据进行均匀量化；对训练结束的深度可分离卷积神经网络中的权重进行逐通道量化；利用特征图数据对深度可分离卷积神经网络进行逐层量化；基于训练集在训练结束的深度可分离卷积神经网络中进行前向运算，并对批量归一化层中的滑动平均参数进行更新；将更新后的批量归一化层中的滑动平均参数和可学习的参数融合到网络权重量化系数和偏置中，实现深度可分离卷积结构的低比特量化。本发明提供的深度可分离卷积结构的低比特量化方法无需任何有标签数据参与、计算简单且与传统方法相比提高了低比特量化后的准确率。 | ||
| 搜索关键词： | 深度 可分离 卷积 结构 比特 量化 方法 | ||
【主权项】：
1.一种深度可分离卷积结构的低比特量化方法，其特征在于，该方法包括：/n选择量化系数对训练结束的深度可分离卷积神经网络的权重和特征图数据进行均匀量化，使得量化前后权重和特征图数据的最小均方误差最小；/n对训练结束的深度可分离卷积神经网络中的权重进行逐通道量化；/n输入图片，在训练结束的深度可分离卷积神经网络中进行前向运算，得到深度可分离卷积神经网络的特征图数据，并利用特征图数据对深度可分离卷积神经网络进行逐层量化；/n基于训练集在训练结束的深度可分离卷积神经网络中进行前向运算，并对批量归一化层中的滑动平均参数进行更新；以及/n将更新后的批量归一化层中的滑动平均参数和可学习的参数融合到网络权重量化系数和偏置中，实现深度可分离卷积结构的低比特量化。/n
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于中国科学院半导体研究所，未经中国科学院半导体研究所许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201910931215.8/，转载请声明来源钻瓜专利网。
