[发明专利]一种兼容型神经网络加速器及数据处理方法

说明书

本发明涉及一种兼容型神经网络加速器，包括存储单元，用于存储神经元数据、权值数据及控制指令并输出；矩阵运算单元，用于根据所述控制指令从所述存储单元接收数据并针对所述接收的数据执行矩阵运算并输出运算结果；模式运算单元，包括多个功能模块，所述功能模块可用于从所述矩阵运算单元和/所述激活单元和/或所述存储单元或接收数据，并根据所述控制指令针对所述接收的数据执行与网络对应的特定运算并输出运算结果；激活单元，用于从所述模式运算单元和/或所述存储单元接收数据，并针对所述接收的数据执行激活操作并输出激活结果。

技术领域

本发明涉及计算领域，特别涉及一种面向LSTM与CNN的兼容型神经网络加速器及数据处理方法。

背景技术

神经网络是人工智能领域具有高发展水平的感知模型之一，一经出现就成为了学术界和工业界的研究热点，随着研究的不断深入，不同类型的神经网络被相继提出，例如，卷积神经网络(CNN，Convolutional Neural Network)和长短期记忆网络(LSTM,LongShort-Term Memory)。

CNN是一种包含了卷积层的前馈神经网络，常被用于语音识别、人脸识别、运动分析、自然语言处理等；LSTM网络是一种时间递归的循环神经网络，常被用于学习语言翻译、机器人控制、图像分析等。由于这两种网络的运算过程存在差异，通常需要使用专用的神经网络加速器进行数据处理，这就限制了神经网络加速器的普适性。

因此，需要一种既适用于CNN又适用于LSTM网络的神经网络加速器及数据处理方法。

发明内容

本发明提供一种面向LSTM与CNN的兼容型神经网络加速器，包括存储单元，用于存储神经元数据、权值数据及控制指令并输出；矩阵运算单元，用于根据所述控制指令从所述存储单元接收数据并针对所述接收的数据执行矩阵运算并输出运算结果；模式运算单元，包括多个功能模块，所述功能模块可用于从所述矩阵运算单元和/所述激活单元和/或所述存储单元或接收数据，并根据所述控制指令针对所述接收的数据执行与网络对应的特定运算并输出运算结果；激活单元，用于从所述模式运算单元和/或所述存储单元接收数据，并针对所述接收的数据执行激活操作并输出激活结果。

优选的，所述特定神经网络是LSTM网络及其变异体网络或者CNN。

优选的，所述功能模块是用于执行部分加操作的累加模块、用于执行向量平行乘法和累加运算的向量平行乘累加模块、用于执行向量取反或减法的多功能运算模块和执行池化操作的池化模块。

优选的，若所述神经网络是LSTM网络及其变异体，所述控制单元将调用所述模式运算单元中的累加模块、向量平行乘累加模块以及多功能运算模块中的若干模块进行运算。

优选的，若所述神经网络是CNN，所述控制单元将调用所述模式运算单元中的池化模块进行运算。

优选的，矩阵运算单元包括用于执行向量乘法结果相互累加运算的相互累加运算模块和用于执行多组向量乘法结果平行自累加运算的自累加运算模块。

优选的，所述神经网络加速器还包括控制单元，用于控制所述存储单元、所述矩阵运算单元、所述激活单元以及所述模式运算单元针对特定神经网络的运算。

根据本发明的一个方面，还提供一种利用如上所述的神经网络加速器进行数据处理的方法，包括以下步骤：

接收并分析神经网络参数，确定计算模式；

根据所述计算模式调用矩阵运算单元、激活单元和相应的功能模块；

利用所述调用的单元及模块执行相应运算并输出计算结果。

优选的，若所述计算模式为LSTM网络计算模式，可利用所述功能模块执行与LSTM或LSTM变异体模型相关的运算。