[发明专利]数据处理装置、数据处理方法及相关装置在审
| 申请号: | 202111584166.9 | 申请日: | 2021-12-22 |
| 公开(公告)号: | CN116362303A | 公开(公告)日: | 2023-06-30 |
| 发明(设计)人: | 高迪 | 申请(专利权)人: | OPPO广东移动通信有限公司 |
| 主分类号: | G06N3/063 | 分类号: | G06N3/063;G06N3/0464 |
| 代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 郑小娟 |
| 地址: | 523860 广东*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数据处理 装置 方法 相关 | ||
本申请提供了一种数据处理装置、数据处理方法及相关装置,包括神经网络处理器,组成循环缓存空间的任意一个环形缓存空间的尾部地址空间之后N‑1行尾部拷贝空间用于存储复制的其后一个环形缓存空间的前N‑1行首部地址空间的数据,组成所述循环缓存空间的任意一个环形缓存空间的首部地址空间之前N‑1行首部拷贝空间用于存储复制的其前一个环形缓存空间的N‑1行尾部地址空间的数据。可以降低数据读取时访问内存的频率,降低总线带宽占用量和系统功耗。
技术领域
本申请涉及神经网络处理器技术领域,特别是一种数据处理装置、数据处理方法及相关装置。
背景技术
随着现有技术的发展,为了增强装置人工智能的能力,通常会在系统中集成神经网络处理器(Neural network Processing Unit,NPU),一般采用“数据驱动并行计算”的架构,用于加速神经网络的运算,解决传统芯片在神经网络运算时效率低下的问题。如何降低NPU的功耗成为了一个难题。
发明内容
有鉴于此,本申请提供了一种数据通信方法及相关装置,可以通过特定的存储空间架构降低数据读取时访问内存的频率,降低总线带宽占用量和系统功耗。
第一方面,本申请实施例提供了一种数据处理装置,包括神经网络处理器,所述神经网络处理器包括处理单元阵列和M个存储模块,所述处理单元阵列包括M列处理单元集,M为正偶数,所述神经网络处理器适用于NxN的卷积核,N为大于1且小于x的正整数;
每个存储模块包括与神经网络层数一一对应的环形缓存空间,每层的M个环形缓存空间组成至多M/2个循环缓存空间,每个循环缓存空间包括至少2个至多M个环形缓存空间;
每个环形缓存空间包括x行缓存地址空间,x为大于2的正整数,所述x行缓存地址空间包括前N-1行首部地址空间和后N-1行尾部地址空间;组成所述循环缓存空间的任意一个环形缓存空间的尾部地址空间之后N-1行尾部拷贝空间用于存储复制的其后一个环形缓存空间的前N-1行首部地址空间的数据,组成所述循环缓存空间的任意一个环形缓存空间的首部地址空间之前N-1行首部拷贝空间用于存储复制的其前一个环形缓存空间的N-1行尾部地址空间的数据;
所述M个存储模块用于分布式存储待存储数据,所述M列处理单元集用于从所述M个存储模块中读取分布式存储的所述待存储数据。
第二方面,本申请实施例提供了一种数据处理方法,应用于如本申请实施例第一方面所述的数据处理装置,所述方法包括:
获取待存储数据;
根据所述待存储数据的通道数n将所述待存储数据划分为n个待存储子数据,n为小于或等于M/2的正整数;
将每个待存储子数据写入INT(M/n)个环形缓存空间组成的循环缓存空间中,任意一个循环缓存空间用于存储任意一个待存储子数据。
第三方面,本申请实施例提供了一种电子设备,包括存储器和处理器,所述存储器用于存储程序,所述处理器执行所述存储器存储的程序,当所述存储器存储的程序被执行时,所述处理器用于执行如本申请实施例第二方面任一项所述的方法中的步骤的指令。
第四方面,本申请实施例提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序包括程序指令,所述程序指令当被处理器执行时使所述处理器执行如本申请实施例第二方面任一项所述的方法。
第五方面,本申请实施例提供了一种计算机产品,其中,上述计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质,上述计算机程序可操作来使计算机执行如本申请实施例第二方面任一方法中所描述的部分或全部步骤。该计算机程序产品可以为一个软件安装包。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于OPPO广东移动通信有限公司,未经OPPO广东移动通信有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111584166.9/2.html,转载请声明来源钻瓜专利网。





