[发明专利]一种数据处理方法、装置、神经网络加速器及存储介质在审
申请号: | 202210039160.1 | 申请日: | 2022-01-13 |
公开(公告)号: | CN114492775A | 公开(公告)日: | 2022-05-13 |
发明(设计)人: | 祝叶华;孙炜 | 申请(专利权)人: | 哲库科技(上海)有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063 |
代理公司: | 北京派特恩知识产权代理有限公司 11270 | 代理人: | 侯艳华;张颖玲 |
地址: | 200120 上海市浦东新区自由贸易试*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 装置 神经网络 加速器 存储 介质 | ||
1.一种数据处理装置,其特征在于,包括:神经网络处理模块、内存分配模块,以及与所述神经网络处理模块和所述内存分配模块连接的存储模块;
所述神经网络处理模块,用于执行预设神经网络中每个计算层,并将每个计算层对应的计算结果传输至所述存储模块;
所述内存分配模块,用于持续获取所述存储模块中空闲的物理地址,生成所述空闲的物理地址与虚拟地址之间的地址映射信息,并依次为所述预设神经网络中每个计算层分配对应的虚拟地址空间;
所述存储模块,用于基于所述虚拟地址空间的虚拟地址和所述地址映射信息,将所述预设神经网络中每个计算层对应的计算结果,存储到对应的物理地址上。
2.根据权利要求1所述的数据处理装置,其特征在于,
所述神经网络处理模块,用于:
获取根据所述预设神经网络中计算层的执行顺序设定的执行指令;
按照所述执行指令,依次执行所述预设神经网络中每个计算层,得到每个计算层对应的计算结果。
3.根据权利要求1所述的数据处理装置,其特征在于,还包括:地址映射模块,所述地址映射模块,与所述神经网络处理模块、所述存储模块,以及所述内存分配模块连接;
所述神经网络处理模块,用于将所述预设神经网络中每个计算层对应的标识和计算结果传输至所述地址映射模块;
所述内存分配模块,用于将所述地址映射信息,以及所述预设神经网络中,每个计算层对应的虚拟地址空间的虚拟地址传输至所述地址映射模块;
所述地址映射模块,用于针对所述预设神经网络中每个计算层,根据对应的标识和对应的虚拟地址空间的虚拟地址,结合所述地址映射信息,确定对应的物理地址,并将对应的计算结果传输至对应的物理地址上。
4.根据权利要求1所述的数据处理装置,其特征在于,
所述内存分配模块,还用于:
获取所述预设神经网络中计算层的执行顺序,以及每个计算层需求的存储大小;
按照所述执行顺序,依次为每个计算层分配与需求的存储大小匹配的虚拟地址空间。
5.根据权利要求4所述的数据处理装置,其特征在于,
所述内存分配模块,用于:
在初始时刻,将所述存储模块中当前存在的空闲的物理地址以链表的方式连接在一起,形成空闲链表;
从所述空闲链表中,按照所述预设神经网络中计算层的执行顺序,根据每个计算层的存储大小,依次针对每个计算层拆分出一段链表,并实时回收所述存储模块中释放的物理地址作为新增的空闲的物理地址,添加至所述空闲链表的尾部,以更新所述空闲链表,直至每个计算层均得到对应的一段链表;
将每一段链表包含的物理地址对应的虚拟地址空间分配给所述预设神经网络中对应的计算层。
6.根据权利要求1或5所述的数据处理装置,其特征在于,
所述内存分配模块,还用于:
获取所述预设神经网络中每个计算层对应的释放指令;
针对所述预设神经网络中每个计算层,按照对应的释放指令指示的释放时刻控制所述存储模块上对应的物理地址释放。
7.一种数据处理方法,其特征在于,应用于数据处理装置,所述数据处理装置包括:神经网络处理模块、内存分配模块,以及与所述神经网络处理模块和所述内存分配模块连接的存储模块,所述方法包括:
利用所述神经网络处理模块,执行预设神经网络中每个计算层,并将每个计算层对应的计算结果传输至所述存储模块;
利用所述内存分配模块,持续获取所述存储模块中空闲的物理地址,生成所述空闲的物理地址与虚拟地址之间的地址映射信息,并依次为所述预设神经网络中每个计算层分配对应的虚拟地址空间;
利用所述存储模块,基于所述虚拟地址空间的虚拟地址和所述地址映射信息,将所述预设神经网络中每个计算层对应的计算结果,存储到对应的物理地址上。
8.一种神经网络加速器,其特征在于,包括如权利要求1-6中的任一项所述的数据处理装置。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于哲库科技(上海)有限公司,未经哲库科技(上海)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210039160.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:输入设备、电子设备组件、信息处理方法及装置
- 下一篇:信息交互方法及装置