[发明专利]基于向量处理器的深度神经网络多核加速实现方法

权利要求书

1.一种基于向量处理器的深度神经网络多核加速实现方法，其特征在于步骤包括：

S1.将待处理数据按一维向量输出，并作为输入值输入至目标深度神经网络；

S2.由向量处理器中各个核依次计算目标深度神经网络中相邻两个隐层的权值矩阵，每次计算时，将输入值广播至各个核内的标量存储体中，同时加载相邻两个隐层的权值矩阵，将加载的所述权值矩阵进行划分后分别传输至各个核内的向量存储体中，启动各个核并行计算后得到多个向量计算结果并作为下一次计算的输入值；

所述步骤S2中每次计算时，具体将加载的所述权值矩阵按列平均划分成多份，每份划分后权值矩阵通过DMA传输至各个核内的向量存储体AM中，以将权值矩阵平均分配给各个计算核；

所述步骤S2中每次计算前，还包括判断当前次所需计算的权值矩阵的状态，若判断到满足预设条件时，直接由指定核执行当前权值矩阵的计算，所述预设条件具体为权值矩阵不能平均划分或权值矩阵规模小于预设值。

2.根据权利要求1所述的基于向量处理器的深度神经网络多核加速实现方法，其特征在于：所述步骤S2中每次计算时，具体通过启动DMA的广播传输模式，将输入值广播至各个核内的标量存储体中。

3.根据权利要求2所述的基于向量处理器的深度神经网络多核加速实现方法，其特征在于：所述步骤S2中每次计算时，将加载的所述权值矩阵进行划分后，具体通过启动各个核DMA点对点传输方式，将划分后权值矩阵分别传输至各个核内的向量存储体中。

4.根据权利要求3所述的基于向量处理器的深度神经网络多核加速实现方法，其特征在于：所述步骤S2中每次计算时，得到多个向量计算结果后，具体通过启动各个核的DMA将得到的多个向量计算结果输出至外部DDR中。

5.根据权利要求1～4中任意一项所述的基于向量处理器的深度神经网络多核加速实现方法，其特征在于：所述步骤S2中每次计算时，得到多个向量计算结果后还包括由各个核对得到的所述向量计算结果进行激活函数处理，得到最终的向量计算结果步骤。

6.根据权利要求5所述的基于向量处理器的深度神经网络多核加速实现方法，其特征在于：所述激活函数为sigmoid函数、ReLU函数、tanh函数中的一种。

7.根据权利要求1～4中任意一项所述的基于向量处理器的深度神经网络多核加速实现方法，其特征在于，所述步骤S1中具体按列或行输出一维的向量数据作为目标深度神经网络的输入值。