|
钻瓜专利网为您找到相关结果 322个,建议您 升级VIP下载更多相关专利
- [发明专利]模型压缩方法及装置-CN201910430876.2有效
-
舒晗;王云鹤;韩凯;许春景
-
华为技术有限公司
-
2019-05-22
-
2023-10-24
-
G06N3/006
- 本申请实施例提供模型压缩方法及装置,用于解决现有的压缩算法直接应用在生成器模型上不能取得令人满意的结果的问题,包括:对压缩前的生成器模型的网络结构进行二值编码,得到包括M个第一代生成器子模型的网络结构的第一代子群;获取每个第一代生成器子模型的网络结构的适应值;根据适应值和遗传算法,确定第N代子群中适应值最优的第N代生成器子模型的网络结构,第N代子群中M个第N代生成器子模型的网络结构的适应值的平均值与第(N‑1)代子群中M个第(N‑1)代生成器子模型的网络结构的适应值的平均值的差值小于设定值;根据压缩前的生成器模型中的网络参数和适应值最优的第N代生成器子模型的网络结构,确定压缩后的生成器模型。
- 模型压缩方法装置
- [发明专利]一种数据处理方法及其装置-CN202310621628.2在审
-
刘传建;韩凯;张宝昌;徐昇;李炎静;王云鹤
-
华为技术有限公司
-
2023-05-29
-
2023-10-10
-
G06N3/0495
- 本申请公开了一种数据处理方法,涉及人工智能领域,包括:获取第一神经网络对应的第一查询query,以及第二神经网络对应的第二query;所述第一query为对所述第一神经网络对应的query的信息熵最大化后得到的query;所述第一神经网络为对所述第二神经网络进行压缩得到的模型;所述第一神经网络和所述第一神经网络用于进行目标检测;根据所述第一query以及所述第二query,确定第一损失;所述第一损失指示最小化所述第二query和所述第一query之间的信息差异;根据所述第一损失,更新所述第一神经网络以及所述第一query。本申请通过最小化学生模型和老师模型的查询query之间的信息差距,使得学生模型与教师模型之间的信息差距最小化,从而提高了压缩模型的模型精度。
- 一种数据处理方法及其装置
|