[发明专利]一种神经网络计算终端及神经网络计算方法

说明书

本申请公开了一种神经网络计算终端及神经网络计算方法，所述计算终端包括N个输入通道和N个计算阵列，其中，每个所述输入通道对应一个所述计算阵列，所述计算阵列包括多个数据处理单元，每个所述数据处理单元包括乘法模块和加法模块；所述乘法模块，用于对所述输入通道输入的数据进行乘法运算，并将所述乘法运算的乘法运算结果输出至所述加法模块；所述加法模块，用于对所述乘法运算结果进行加法运算得到加法运算结果，并将多个所述加法运算结果输入至所述加法模块进行加法运算或将所述加法运算结果作为计算终端的目标数据。这样，实现了加法模块的复用，从而降低了计算终端的硬件面积消耗。

技术领域

本申请涉及卷积神经网络硬件设计技术领域，特别涉及一种神经网络计算终端及神经网络计算方法。

背景技术

当前，神经网络研究已成为研究热点，卷积神经网络网络模型被运用到各个领域，例如图像识别，视频编码，动作识别，以及语音识别等。卷积神经网络所体现出来的优越效果也越来越明显，所能吞吐的参数量或者权重，也越来越多，高达百万级甚至以上，这样，对计算复杂度的要求越来越高，对硬件的计算能力的要求也需要很高，现如今一些高性能的GPU(即Graphics Processing Unit，图形处理器)已经能够满足这些性能的要求，但是功耗却相当的大，面积的优化也不能做到更好，就难以应用于嵌入式系统。

发明内容

有鉴于此，本申请的目的在于提供一种神经网络计算终端及神经网络计算方法，能够降低计算终端的硬件面积消耗。其具体方案如下：

第一方面，本申请公开了一种神经网络计算终端，包括N个输入通道和N个计算阵列，其中，每个所述输入通道对应一个所述计算阵列，所述计算阵列包括多个数据处理单元，每个所述数据处理单元包括乘法模块和加法模块；

所述乘法模块，用于对所述输入通道输入的数据进行乘法运算，并将所述乘法运算的乘法运算结果输出至所述加法模块；

所述加法模块，用于对所述乘法运算结果进行加法运算得到加法运算结果，并将多个所述加法运算结果输入至所述加法模块进行加法运算或将所述加法运算结果作为计算终端的目标数据。

可选的，所述计算终端还包括选择器模块，所述选择器模块包括多个选择端，所述多个选择端的连接端包括所述乘法模块的输出端，所述输入通道的输入端，所述加法模块的输出端。

可选的，所述输入通道包括第一输入端和第二输入端，所述乘法模块，用于对所述第一输入端的第一数据和所述第二输入端的第二数据进行乘法运算，得到乘法运算结果。

可选的，任一所述计算阵列中各所述加法模块连接成加法层级结构，所述加法层级结构包括第一层，中间层和输出层；

所述第一层的加法模块连接所述乘法模块的输出端，所述中间层的加法模块的输入端连接所述第一层加法模块的输出端，所述输出层的加法模块的输入端连接所述中间层的加法模块的输出端；

所述第一层的加法模块，用于接收所述乘法运算结果，对所述乘法运算结果进行加法运算得到第一层加法运算结果，并将多个所述第一层加法运算结果输出至所述中间层的加法模块；

所述中间层的加法模块，用于接收所述第一层加法运算结果，对所述第一层加法运算结果进行加法运算，得到中间层加法运算结果；

所述输出层的加法模块，用于接收所述中间层加法运算结果，对所述中间层加法运算结果进行累加运算，得到最终运算结果作为计算终端的目标数据进行输出。

可选的，所述中间层包括多级加法模块，所述多级加法模块中任一级加法模块中的加法模块均用于接收本级加法模块的上一级加法模块中两个加法模块输出的加法运算结果，并对两个加法运算结果进行加法运算，得到相应的加法运算结果，所述多级加法模块中最后一级加法模块输出的加法运算结果为所述中间层加法运算结果。