[发明专利]模型压缩方法、装置、电子设备及存储介质在审
申请号: | 202011247207.0 | 申请日: | 2020-11-10 |
公开(公告)号: | CN112529189A | 公开(公告)日: | 2021-03-19 |
发明(设计)人: | 王桂彬;董昊 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06N5/04 | 分类号: | G06N5/04;G06N3/063;G06F17/16 |
代理公司: | 北京鸿德海业知识产权代理有限公司 11412 | 代理人: | 谷春静 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请公开了模型压缩方法、装置、电子设备及存储介质,涉及深度学习及语音识别等人工智能领域,其中的方法可包括:当模型推理过程中需要进行单精度浮点的矩阵运算时,对相乘的两个矩阵中的左矩阵按行进行量化,得到第一量化矩阵,对相乘的两个矩阵中的右矩阵按列进行量化,得到第二量化矩阵;将第一量化矩阵和第二量化矩阵相乘,得到作为定点运算结果的第三矩阵;根据第三矩阵进行反量化,得到第四矩阵,将第四矩阵作为矩阵运算的结果。应用本申请所述方案,可提升模型推理速度及具有普遍适用性等。 | ||
搜索关键词: | 模型 压缩 方法 装置 电子设备 存储 介质 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202011247207.0/,转载请声明来源钻瓜专利网。
- 上一篇:一种新材料玻璃用的打磨装置及其方法
- 下一篇:一种三轴联动剪板机