[发明专利]一种深度学习模型推理期加速方法、装置及系统有效
申请号: | 201810685004.6 | 申请日: | 2018-06-27 |
公开(公告)号: | CN109034371B | 公开(公告)日: | 2021-06-25 |
发明(设计)人: | 曹松;魏汉秦;林宇;陶海 | 申请(专利权)人: | 北京文安智能技术股份有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06N5/04 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 100094 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及深度神经网络学习技术领域,公开了一种深度学习模型推理期加速方法、装置及系统。本发明深度学习模型推理期加速方法通过获取优化深度学习模型及待处理数据;所述优化深度学习模型带有优化合并参数;通过带有所述优化合并参数的优化深度学习模型对所述待处理数据进行数据处理;将所述数据处理后的数据输出。本发明通过带有所述优化合并参数的优化深度学习模型对所述待处理数据进行数据处理;节省了深度学习模型推理期中的额外计算开销,从而使得深度学习模型的应用过程中减少了推理期计算时间和响应延迟,降低了设备功耗。 | ||
搜索关键词: | 一种 深度 学习 模型 推理 加速 方法 装置 系统 | ||
【主权项】:
1.一种深度学习模型推理期加速方法,其特征在于,包括:获取优化深度学习模型及待处理数据;所述优化深度学习模型带有优化合并参数;通过带有所述优化合并参数的优化深度学习模型对所述待处理数据进行数据处理;将所述数据处理后的数据输出。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京文安智能技术股份有限公司,未经北京文安智能技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201810685004.6/,转载请声明来源钻瓜专利网。