[发明专利]模型量化方法、装置、设备及存储介质在审
申请号: | 202210109382.6 | 申请日: | 2022-01-28 |
公开(公告)号: | CN114595627A | 公开(公告)日: | 2022-06-07 |
发明(设计)人: | 杨树;周汉清;韩旭 | 申请(专利权)人: | 广州文远知行科技有限公司 |
主分类号: | G06F30/27 | 分类号: | G06F30/27;G06N3/04;G06N3/08;G06F111/10 |
代理公司: | 北京市京大律师事务所 11321 | 代理人: | 苏福念 |
地址: | 511365 广东省广州市中*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及自动驾驶领域,公开了一种模型量化方法、装置、设备及存储介质,该方法包括:获取神经网络模型的相邻两层结构中的第一层结构输出的待量化数据;获取预设的平衡因子,并基于平衡因子和待量化数据计算量化映射的量化最大值和量化最小值;基于量化校准的量化最大值和量化最小值确定量化映射区间,并基于量化映射区间对待量化数据进行量化映射,得到量化映射数据;将量化映射数据输入待量化模型中相邻两层结构中的第二层结构,以支持神经网络模型计算对应的硬件的使用率。本方法在自动驾驶系统的模型进行数据的量化映射过程中引入平衡因子,使得量化映射的不同误差平衡,量化映射效果提高,进一步减小模型推理的误差。 | ||
搜索关键词: | 模型 量化 方法 装置 设备 存储 介质 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州文远知行科技有限公司,未经广州文远知行科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202210109382.6/,转载请声明来源钻瓜专利网。