[发明专利]数据处理方法及装置、神经网络处理装置

说明书

一种用于神经网络的数据处理方法及装置、神经网络处理装置、存储介质。神经网络包括多个网络层，多个网络层包括第一网络层，该数据处理方法包括：从处理单元阵列接收处理单元阵列对于第一网络层的至少两个不同部分得到的至少两个输出特征数据子集合；根据至少两个不同部分在第一网络层中的位置将至少两个输出特征数据子集合进行拼接组合以得到重组数据子集合；将重组数据子集合写入目的存储装置。该用于神经网络处理的数据处理方法可以改善系统效率，提高总线带宽利用率。

技术领域

本公开的实施例涉及数据处理方法及装置、神经网络处理装置。

背景技术

人工智能是一门融合了计算机科学、统计科学、脑神经学和社会科学的前沿综合性学科。人工智能应用领域的研究包括机器人、语音识别、图像识别、自然语言处理和专家系统等。目前，人工智能领域中，深度学习(Deep Learning)技术在图像识别、语音识别、自动驾驶等应用都取得了非常不错的效果。深度学习涉及例如卷积神经网络(CNN)、深度神经网络(DNN)、循环神经网络(RNN)等，这些神经网络都具有参数量多、计算量大、并行度高等特征。

但是，传统采用CPU、GPU等进行神经网络处理的方式不适合于上述参数量多、计算量大、并行度高计算特征，因此设计一种面向深度学习领域的专用处理器就变得非常必要。

发明内容

本公开的至少一个实施例提供了一种用于神经网络的数据处理方法，神经网络包括多个网络层，多个网络层包括第一网络层，方法包括：从处理单元阵列接收处理单元阵列对于第一网络层的至少两个不同部分得到的至少两个输出特征数据子集合；根据至少两个不同部分在第一网络层中的位置将至少两个输出特征数据子集合进行拼接组合以得到重组数据子集合；将重组数据子集合写入目的存储装置。

本公开的至少一个实施例提供了一种用于神经网络的数据处理装置，神经网络包括多个网络层，多个网络层包括第一网络层，装置包括接收单元、重组单元以及写入单元。接收单元被配置为，从处理单元阵列接收处理单元阵列对于第一网络层的至少两个不同部分得到的至少两个输出特征数据子集合；重组单元被配置为，根据至少两个不同部分在第一网络层中的位置将至少两个输出特征数据子集合进行拼接组合以得到重组数据子集合；写入单元被配置为，将重组数据子集合写入目的存储装置。

本公开的至少一个实施例提供了一种用于神经网络的数据处理装置，包括处理单元和存储器，存储器上存储有一个或多个计算机程序模块；一个或多个计算机程序模块被配置为由处理单元执行时，用于执行如上的数据处理方法。

本公开的至少一个实施例提供了一种非瞬时可读存储介质，其中，非瞬时可读存储介质上存储有计算机指令，其中，计算机指令被处理器执行时执行如上的数据处理方法。

本公开的至少一个实施例提供了一种神经网络处理装置，包括上述的数据处理装置、处理单元阵列、目的存储装置，其中，数据处理装置与处理单元阵列和目的存储装置耦接。

附图说明

为了更清楚地说明本公开实施例的技术方案，下面将对实施例的附图作简单地介绍，显而易见地，下面描述中的附图仅仅涉及本公开的一些实施例，而非对本公开的限制。

图1A抽象地示出了的卷积神经网络中一个神经元的输入与输出；

图1B示出了一个卷积层进行多通道卷积运算的示意图；

图1C示出了卷积运算中数据复用的特征；

图2A示出了一种神经网络处理器的架构示意图；

图2B示出了对于图2A所示的处理单元阵列采用的三种不同的数据复用方法；

图2C示出了对于图2A所示的处理单元阵列采用的示例性映射方式

图3示出了根据本公开至少一个实施例提供的用于神经网络处理装置的示意图；