[发明专利]一种模型量化方法及其装置在审
| 申请号： | 202310220550.3 | 申请日： | 2023-02-27 |
| 公开（公告）号： | CN116151326A | 公开（公告）日： | 2023-05-23 |
| 发明（设计）人： | 刘振华;韩凯;王云鹤 | 申请（专利权）人： | 华为技术有限公司 |
| 主分类号： | G06N3/0464 | 分类号： | G06N3/0464;G06N3/048;G06N3/084;G06V20/58;G06V10/764;G06V10/82;G06V20/10;G06F16/35;G06V40/10;G06T3/00;G06N5/045 |
| 代理公司： | 深圳市深佳知识产权代理事务所(普通合伙) 44285 | 代理人： | 吴欣蔚 |
| 地址： | 518129 广东*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本申请公开了一种模型量化方法，涉及人工智能领域，所述方法包括：获取神经网络的第一参数；根据所述第一参数的数值分布，确定量化截断区间，所述量化截断区间包括上界阈值和下界阈值，其中，所述第一参数中数值小于所述下界阈值的参数数量、所述第一参数中数值大于所述下界阈值且小于所述上界阈值的参数数量、以及所述第一参数中数值大于所述上界阈值的参数数量三者之间的差异小于阈值；根据所述量化截断区间，对所述第一参数进行三值量化。本申请使得第一参数中分别属于上述三个量化区间内的参数数量相同或近似相同，进而增加了三值神经网络的表达能力，从而提升量化模型的精度。 | ||
| 搜索关键词： | 一种 模型 量化 方法 及其 装置 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于华为技术有限公司，未经华为技术有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202310220550.3/，转载请声明来源钻瓜专利网。
