[发明专利]包括跳过电路块的计算器件和系统以及方法

说明书

一种包括跳过电路块的计算器件和系统以及方法，用于以按字输入和按位加权的方式对输入向量和权重向量的乘积执行部分和累加，以得到部分累加的乘积和。在每个权重位之后将部分累加的乘积和与阈值条件进行比较，当部分累加的乘积和满足阈值条件时，断言跳过指示符以指示跳过和累加的剩余计算。

技术领域

本发明的实施例涉及一种包括跳过电路块的计算器件和系统以及方法。

背景技术

乘法累加器可用于以逐字逐位方式将输入数据与相应的权重数据相乘。这种操作的输出可以在人工智能网络中使用以形成节点之间的连接。在这种情况下，可以将乘法累加的输出提供给激活函数。一种这样的激活函数(activation function)是整流线性单元或ReLU激活函数。如果函数的输入小于0，则返回0，否则返回值。

发明内容

根据本发明的实施例的一个方面，提供了一种用于乘积和累加的方法，包括：以按字输入和按位加权的方式对输入向量和权重向量的乘积执行部分和累加，以得到部分累加的乘积和；将部分累加的乘积和与阈值条件进行比较；以及当部分累加的乘积和满足阈值条件时，断言跳过指示符以指示跳过和累加的剩余计算。

根据本发明的实施例的另一个方面，提供了一种包括跳过电路块的计算器件，包括：乘法累加电路块，被配置为分别将M个输入向量的组乘以M个权重向量的组的第一权重位以计算第一组M个乘积，将第一组M个乘积相加在一起以计算第一乘积和，并且在乘积和输出引脚组上提供第一乘积和；累加器电路块，包括耦合到乘积和输出引脚组的累加器输入引脚组，累加器电路块被配置为通过在累加器输入引脚组上接收第一值并将第一值加到累加器电路块中的累加值中以替换替换累加值来累加第一值，并且在累加值输出引脚组上提供累加值；跳过电路块，包括耦合到累加值输出引脚组的累积值输入引脚组，跳过电路块被配置为将累加值与阈值进行比较，并且当满足阈值时，在跳过引脚上断言跳过信号，以及控制电路块，被配置为检查跳过引脚是否有跳过信号，并且当跳过信号未被断言时：使乘法累加电路块处理M个权重向量的组的下一个权重位，并且当跳过信号被断言时：终止处理M个权重向量的组的剩余部分、断言输出就绪信号以及将累加值提供给激活电路。

根据本发明的实施例的又一个方面，提供了一种包括跳过模块的计算系统，包括：乘法累加器件，被配置为以按位加权的方式分别计算输入节点与输入中的权重向量的乘积，并对乘积中的每个求和以计算每个位的乘积和，根据每个位的位值位置对乘积和进行加权，并且将乘积和累加为累加的乘积和；跳过模块，被配置为将乘积和与阈值进行比较，并且当满足阈值时断言跳过信号；控制逻辑器件，被配置为当跳过信号未被断言时使乘法累加器件处理权重向量的下一位，并且当跳过信号被断言时使乘法累加器件中止处理权重向量的剩余部分；以及激活器件，激活器件基于累加的乘积和的值确定输入节点的卷积值。

附图说明

当结合附图进行阅读时，从以下详细描述可最佳理解本发明的各个方面。应该强调，根据工业中的标准实践，各个部件未按比例绘制并且仅用于说明的目的。实际上，为了清楚的讨论，各个部件的尺寸可以任意地增大或减小。

图1图示了根据一些实施例的通常用于处理机器学习中的图像数据的3x3卷积的示例。

图2图示了根据一些实施例的以更一般方式的图1中所示的概念。

图3图示了根据一些实施例的ReLU激活函数。

图4图示了根据一些实施例的在硬件中算法实现MAC的输入数据、权重向量和MAC的二进制表示。

图5图示了根据一些实施例的以按位方式处理输入值和权重向量的数学公式。

图6图示了根据一些实施例的输入I和权重向量W的示例运算。

图7至图12图示了根据一些实施例的跳过评估和激活部件。

图13图示了根据一些实施例的跳过评估和激活部件的过程流程图100。