[发明专利]神经网络推理的内存分配方法及装置有效
申请号: | 202011535579.3 | 申请日: | 2020-12-23 |
公开(公告)号: | CN112256441B | 公开(公告)日: | 2021-05-04 |
发明(设计)人: | 梁军 | 申请(专利权)人: | 上海齐感电子信息科技有限公司 |
主分类号: | G06F9/50 | 分类号: | G06F9/50;G06N3/02;G06N5/04 |
代理公司: | 上海浦一知识产权代理有限公司 31211 | 代理人: | 焦天雷 |
地址: | 201120 上海市*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 神经网络推理的内存分配方法及装置,其从神经网络推理的最后输出层开始分配内存,直至完成对所有输入层的内存分配,包括:在初始位置的一侧为该神经网络推理中的所有最后输出层分配内存空间;获得该神经网络推理中当前已分配内存空间的层的IFM层;为当前已分配内存空间的层的各个IFM层分配内存空间;在此过程中,当某个当前已分配内存空间的层的所有IFM层都已被分配空间之后,回收当前已分配内存空间的层的内存空间,当某个层的某个IFM层被分配的内存空间位于初始位置的某一侧能够使得当前已分配内存空间的层的内存空间被回收时,将该IFM层分配到初始位置的该侧。本发明降低神经网络推理的内存占用,提高内存的复用率,内存规划更加合理。 | ||
搜索关键词: | 神经网络 推理 内存 分配 方法 装置 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海齐感电子信息科技有限公司,未经上海齐感电子信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202011535579.3/,转载请声明来源钻瓜专利网。
- 上一篇:O型圈自动装配系统及装配方法
- 下一篇:一种建筑空调管路应力检测系统