|
钻瓜专利网为您找到相关结果 1051604个,建议您 升级VIP下载更多相关专利
- [发明专利]运算单元、片上系统及模型量化搜索方法-CN202310446116.7在审
-
陈峰
-
阿里巴巴(中国)有限公司
-
2023-04-19
-
2023-07-21
-
G06N3/0495
- 本申请实施例提供了一种运算单元、片上系统及模型量化搜索方法。运算单元包括:初始化子单元,设定待量化模型中各网络层的初始量化类型,并编码初始量化类型得到初始量化序列;进化迭代子单元,对初始量化序列执行变异操作,得到变异量化序列;获取各候选量化模型对应的量化推理结果;根据各量化推理结果与原始推理结果间的相似度,从初始量化序列和变异量化序列中确定候选量化序列;将候选量化序列作为新的初始量化序列,返回执行对初始量化序列执行变异操作,得到变异量化序列的步骤,直至满足迭代停止条件;结果确定子单元,从候选量化序列中确定目标量化序列,得到搜索结果。本方案可提高模型量化搜索的效率。
- 运算单元系统模型量化搜索方法
- [发明专利]基于AVS的并行量化和反量化方法-CN201510076280.9有效
-
叶广明
-
广州柯维新数码科技有限公司
-
2015-02-11
-
2017-12-15
-
H04N19/124
- 本发明公开了基于AVS的并行量化和反量化方法,量化方法包括分析量化公式中的参数,分别提取量化公式中的每个参数;分别将每个参数对应的8个值并行送入相应的寄存器中;利用保存有对应参数的寄存器对量化公式进行运算;获得同一行的8个量化结果;重复运算,依次获得8行量化结果。反量化方法包括分析反量化公式中的参数,分别提取反量化公式中的每个参数;分别将每个参数对应的8个值并行送入相应的寄存器中;利用保存有对应参数的寄存器对反量化公式进行运算;获得同一行的8个反量化结果;重复运算,依次获得8行反量化结果。通过分别将量化和反量化中的参数并行放进寄存器中进行处理,实现高效率地得到量化结果和反量化结果。
- 基于avs并行量化方法
|