[发明专利]一种将深度学习模型部署到加速单元的方法在审
申请号: | 202010467422.5 | 申请日: | 2020-05-28 |
公开(公告)号: | CN113743567A | 公开(公告)日: | 2021-12-03 |
发明(设计)人: | 杨昭;何军;尹莉;毛钧;宰小涛;周永权;李书森;赵晓辉;赵亮 | 申请(专利权)人: | 平头哥(杭州)半导体有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/063;G06N3/08;G06N20/10 |
代理公司: | 北京成创同维知识产权代理有限公司 11449 | 代理人: | 李秀霞 |
地址: | 311100 浙江省杭州市余杭*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种将深度学习模型部署到加速单元的方法。在该方法中,根据加速单元中的加速单元核的片内存储器大小,将深度学习模型划分为多个引擎运算片段。每个引擎运算片段包括深度学习模型中的多个处理节点的一部分,而且在加速单元核中执行时使用的存储空间不超过片内存储器大小。接着,在该方法中,根据各个引擎运算片段要使用的存储空间大小和/或依赖关系,将各引擎运算片段部署到相应的加速单元核来执行。本发明还公开了采用该方法的人工智能设备、数据中心和计算设备。 | ||
搜索关键词: | 一种 深度 学习 模型 部署 加速 单元 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平头哥(杭州)半导体有限公司,未经平头哥(杭州)半导体有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202010467422.5/,转载请声明来源钻瓜专利网。
- 上一篇:条形灯
- 下一篇:一种热固性树脂成型用复合薄膜及其应用