[发明专利]包括单独的控制和数据结构的神经网络处理器

权利要求书

1.一种用于为具有一个或多个网络层的人工神经网络执行神经网络计算的神经网络处理器电路，其包括：

数据平面，所述数据平面包括多个计算资源和多个可分配物理存储器资源，所述多个计算资源和所述多个可分配物理存储器资源操作来执行神经网络计算，从而实现所述人工神经网络中的多个神经元；

控制平面，与所述数据平面分离并且配置成根据所述一个或多个网络层中所需的计算数量动态映射到存储器资源集，所述控制平面操作来生成用于所述数据平面的控制信令；

其中所述计算资源和所述存储器资源聚合在多个级别中以形成层次结构；并且

其中与更低级别相比，所述层次结构中的更高级别是更复杂的并且具有更少数量的实例。

2.根据权利要求1所述的电路，其中所述控制平面包括一个或多个基于微代码的控制器，所述控制器操作来生成用于所述计算资源和所述存储器资源的控制信令。

3.根据权利要求2所述的电路，其中所述基于微代码的控制器在没有条件语句或条件分支的情况下进行操作。

4.根据权利要求2所述的电路，其中所述基于微代码的控制器操作来支持操作的内联重复。

5.根据权利要求2所述的电路，其中在所述基于微代码的控制器中执行的每个微代码指令操作来生成用于所述计算资源和所述存储器资源的控制信令。

6.根据权利要求1所述的电路，其中所述控制平面操作来根据一个或多个外部信号触发执行流，所述外部信号指示执行开始/停止，从而实现数据管路握手。

7.根据权利要求1所述的电路，其中所述控制平面是动态可配置且可编程的。

8.根据权利要求1所述的电路，其中所述控制平面操作来带外执行控制信令，而不需要数据驱动的存储器访问。

9.根据权利要求1所述的电路，其中所述控制平面操作来利用相对较小数量的控制信号来控制相对较大数量的计算资源和存储器资源。

10.根据权利要求1所述的电路，其中所述数据平面与所述控制平面之间的分离提供对控制平面安全危害的固有抗扰度。

11.一种用于为具有一个或多个网络层的人工神经网络执行神经网络计算的神经网络处理器电路，其包括：

数据平面，所述数据平面包括多个处理元件电路，每个处理元件电路包括多个计算元件和多个可分配物理存储器元件，所述多个计算元件和所述多个可分配物理存储器元件操作来执行神经网络计算，从而实现所述人工神经网络中的多个神经元；

其中所述多个处理元件电路聚合在多个级别中以形成子集群和集群的层次结构；以及

控制平面，与所述数据平面分离并且配置成根据所述一个或多个网络层中所需的计算数量动态映射到存储器资源集，所述控制平面包括一个或多个层控制器，所述层控制器操作来生成用于所述多个处理元件电路的控制信令。

12.根据权利要求11所述的电路，其中所述控制平面包括一个或多个基于微代码的控制器，所述控制器操作来执行微代码指令，其中每个微代码指令生成用于所述计算元件和所述存储器元件的控制信令。

13.根据权利要求11所述的电路，其中所述一个或多个层控制器是动态可配置且可编程的。

14.根据权利要求11所述的电路，其中所述一个或多个层控制器操作来带外执行控制信令而不需要存储器访问。

15.根据权利要求11所述的电路，其中所述一个或多个层控制器操作来利用相对较小数量的控制信号来控制相对较大数量的计算元件和存储器元件。