[发明专利]一种神经网络计算模块及人工智能处理系统

说明书

本发明公开了一种神经网络计算模块及人工智能处理系统，该神经网络计算模块包括PE网络模块，PE网络模块包括若干PE计算单元，PE计算单元包括片上网络接口，片上网络接口与相邻的PE计算单元的片上网络接口通信连接。本发明采用片上网络与数据流结合的技术，按照纯计算的方式以最高的效率利用计算资源。

技术领域

本发明涉及人工智能领域，具体一种神经网络计算模块及人工智能处理系统。

背景技术

随着人工智能技术研究的不断深入，人工智能处理系统被应用到各个领域中，成为了研究热点之一。人工智能处理系统通过神经网络计算模块实现高效的人工智能计算。神经网络算法模型作为人工智能应用的底层模型，对人工智能应用的性能具有至关重要的影响。为了更好地应用人工智能技术，如何实现高性能的神经网络计算模块成为了人工智能处理系统的关键。

发明内容

本发明的目的在于针对现有技术中存在的不足，提出一种神经网络计算模块及人工智能处理系统，采用片上网络与数据流结合的技术，按照纯计算的方式以最高的效率利用计算资源。

为此，本发明采用以下技术方案。

一种神经网络计算模块，包括PE网络模块，所述PE网络模块包括若干PE计算单元，所述PE计算单元包括片上网络接口，所述片上网络接口与相邻的所述PE计算单元的所述片上网络接口通信连接。

优选的，所述PE计算单元还包括本地缓存、PE控制模块和计算通路模块，所述片上网络接口分别与所述本地缓存、所述PE控制模块和所述计算通路模块通信连接，所述计算通路模块分别与所述本地缓存和所述PE控制模块通信连接。

优选的，所述计算通路模块包括若干计算子模块，所述计算子模块为卷积计算子模块、ELTWISE计算子模块、FC计算子模块、Pooling计算子模块、BN/Scale计算子模块、归一化计算子模块中的一种或多种的组合。

优选的，参与计算的所述计算子模块能够进行配置。

优选的，所述神经网络计算模块还包括数据输入模块、片上缓存、数据管理与动态分配模块和数据输出模块,所述数据输入模块、所述片上缓存、所述数据管理与动态分配模块、所述PE网络模块和所述数据输出模块依次通信连接。

优选的，所述神经网络计算模块还包括指令控制模块，所述指令控制模块分别与所述数据输入模块、所述数据管理与动态分配模块和所述数据输出模块通信连接。

优选的，所述神经网络计算模块还包括内存接口，所述内存接口通信连接有内存。

基于同样的发明构思，本发明还提供了一种人工智能处理系统，包括处理器和上述神经网络计算模块，所述处理器与所述神经网络计算模块通信连接。

优选的，所述神经网络计算模块还包括控制接口，所述控制接口分别与所述处理器和所述神经网络计算模块通信连接。

本技术方案的有益之处在于：

1、相邻的PE计算单元通过片上网络接口进行数据交换，从而组成片上的互联网络，片上数据带宽容量高，数据传输效率高；

2、在数据流动过程中，无需任何控制指令与数据流进行交互，按照纯计算的方式以最高的效率利用计算资源；

3、计算通路模块采用一种可配置的流水线结构来实现，根据处理器对神经网络模型的分解，激活对应的计算子模块，适配多种神经网络计算算子类型。

附图说明

图1是神经网络计算模块的硬件结构示意框图；

图2是PE计算单元内部的数据流示意图；

图3是计算通路模块的结构示意图；