|
钻瓜专利网为您找到相关结果 837113个,建议您 升级VIP下载更多相关专利
- [发明专利]一种浮点模型的量化方法、装置及存储介质-CN202010945870.1在审
-
李滨
-
北京小米松果电子有限公司
-
2020-09-08
-
2020-12-11
-
G06N3/04
- 本公开提供了一种浮点模型的量化方法、装置及存储介质,此方法包括:对第一浮点模型进行量化训练,获得包括第一量化参数集合的第二浮点模型;从第二浮点模型中提取第一量化参数集合;使用样本数据运行第二浮点模型,统计运行过程中第二浮点模型中的第二量化参数集合;对第二浮点模型的每个处理层进行量化处理,对于每个处理层,在第一量化参数集合包括所述处理层对应的层级量化参数组时,使用第一量化参数集合中所述处理层对应的层级量化参数组进行量化处理,在第一量化参数集合不包括所述处理层对应的层级量化参数组时,使用第二量化参数集合中所述处理层对应的层级量化参数组对所述处理层进行量化处理。本公开可提高量化准确度。
- 一种浮点模型量化方法装置存储介质
|