[发明专利]基于KL散度的FPGA离线量化方法有效
申请号: | 202010652930.0 | 申请日: | 2020-07-08 |
公开(公告)号: | CN111814676B | 公开(公告)日: | 2023-09-29 |
发明(设计)人: | 王典 | 申请(专利权)人: | 上海雪湖科技有限公司 |
主分类号: | G06N3/0495 | 分类号: | G06N3/0495;G06N3/0464;G06N3/063;G06V10/82;G06V10/94 |
代理公司: | 上海浙晟知识产权代理事务所(普通合伙) 31345 | 代理人: | 杨小双 |
地址: | 200050 上海市*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及到FPGA离线量化技术领域,尤其涉及到一种基于KL散度的FPGA离线量化方法,包括导入模型,模型导入之后需要对模型进行解析以提取和合并网络的层结构,获取需要量化的层输出、权重节点名称;将图像数据进行数据预处理,并作为输入进行数据量化,同时结合层输出、权重节点名称获取量化的层输出、权重数据;对所述的权重数据求最大最小值、量化缩放尺度和量化零点;最后通过KL散度求截断数据阈值,求出量化缩放尺度和量化零点。本发明通过KL散度对原始输出数据量化范围进行截断,避免分布较为稀疏点对量化精度的影响,采用KL散度进行度量,确定不同量化区间的信息损失,确定信息损失最小的数据范围进行量化。 | ||
搜索关键词: | 基于 kl fpga 离线 量化 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海雪湖科技有限公司,未经上海雪湖科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202010652930.0/,转载请声明来源钻瓜专利网。