[发明专利]一种边缘计算模型压缩优化方法、装置、设备及可读介质在审
申请号: | 202011078937.2 | 申请日: | 2020-10-10 |
公开(公告)号: | CN112232509A | 公开(公告)日: | 2021-01-15 |
发明(设计)人: | 赵冰;张清 | 申请(专利权)人: | 苏州浪潮智能科技有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/063 |
代理公司: | 北京连和连知识产权代理有限公司 11278 | 代理人: | 张涛;宋薇薇 |
地址: | 215100 江苏省苏州市吴*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种边缘计算模型压缩优化方法,包括以下步骤:训练得到初始模型,基于神经元的贡献值对初始模型进行剪枝;对剪枝后得到的模型进行调参,并迭代剪枝过程,得到压缩后模型;以及基于TensorRT对压缩后模型进行模型加速优化,并在边缘端部署加速优化后的模型。本发明还公开了一种边缘计算模型压缩优化装置、计算机设备和可读存储介质。本发明结合模型剪枝与TensorRT实现深度学习模型的压缩与模型优化,有助于将云端结构复杂、体积较大的模型应用于边缘端部署。在模型性能损耗较小的前提下,有效降低模型所需存储空间及算力需求,边缘设备可部署更多模型,实现多模型多路视频的实时分析,最大化利用边缘设备性能。 | ||
搜索关键词: | 一种 边缘 计算 模型 压缩 优化 方法 装置 设备 可读 介质 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州浪潮智能科技有限公司,未经苏州浪潮智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202011078937.2/,转载请声明来源钻瓜专利网。
- 上一篇:一种沉箱组合模板
- 下一篇:一种NVM自动配置方法、装置和设备