[发明专利]大规模并行神经推理计算元件

权利要求书

1.一种系统，包括：

多个乘法器，多个乘法器被布置成多个相等大小的组，多个乘法器的每一个适于并行地对输入激活施加权重以产生输出；以及

多个加法器，多个加法器的每一个可操作地耦合到多组乘法器中的一个，多个加法器的每一个适于并行地将乘法器的输出加到其相关组，以产生部分和。

2.根据权利要求1所述的系统，还包括：

多个功能块，多个功能块的每一个可操作地耦合到多个加法器中的一个，多个功能块的每一个适于并行地将函数应用于其相关的加法器的部分和以生成输出值。

3.根据权利要求1所述的系统，适于接收权重矩阵和激活向量。

4.根据权利要求1所述的系统，其中多个加法器的每一个包括加法器树。

5.根据权利要求4所述的系统，其中加法器树是二叉树。

6.根据权利要求4所述的系统，其中加法器树包括多个进位保存加法器。

7.根据权利要求3所述的系统，其中激活向量的每个激活被广播到所有乘法器组。

8.根据权利要求3所述的系统，还包括可操作地耦合到多组乘法器中的每一个的收缩流水线。

9.根据权利要求1所述的系统，其中多组乘法器是流水线化的。

10.根据权利要求1所述的系统，其中权重是平衡的三进制值。

11.根据权利要求1所述的系统，其中多个乘法器的每一个包括多路复用器。

12.根据权利要求3所述的系统，其中权重矩阵被压缩，并且其中系统适于解压缩所压缩的权重矩阵。

13.根据权利要求2所述的系统，其中多个功能块适于将输出值与随后计算出的输出值进行组合。

14.根据权利要求2所述的系统，还包括：

多个移位器，每个移位器可操作地连接到功能块之一，每个移位器适于并行地移位其相应功能块的输出值，并且其中

多个功能块适于将移位后的值与随后计算出的输出值进行组合。

15.根据权利要求2所述的系统，其中每个功能块的函数是激活函数。

16.根据权利要求2所述的系统，其中每个功能块的函数是可编程的。

17.根据权利要求2所述的系统，其中每个功能块的函数是加法。

18.根据权利要求2所述的系统，其中每个功能块的函数是乘法。

19.根据权利要求2所述的系统，其中每个功能块的函数是标识函数。

20.根据权利要求2所述的系统，还包括查找表，每个激活功能块的函数包括来自查找表的查找。

21.根据权利要求20所述的系统，其中查找表是可编程的。

22.根据权利要求2所述的系统，其中每个功能块的函数是最大函数。

23.根据权利要求2所述的系统，其中每个功能块的函数是最小函数。