[发明专利]卷积神经网络中用于稀疏张量的灵活加速器

说明书

本发明公开了一种具有乘法电路的系统，该乘法电路具有多个乘法器。该多个乘法器中的每个乘法器被配置为接收数据值和权重值以在机器学习应用程序的卷积操作中生成乘积值。该系统还包括累加器和寄存器组，该累加器被配置为从该多个乘法器中的每个乘法器接收该乘积值，该寄存器组被配置为存储该卷积操作的输出。该累加器被进一步配置为接收存储在该寄存器组中的值的一部分，并且将值的所接收到的部分与这些乘积值组合以生成组合值。该寄存器组被进一步配置为用这些组合值替换值的该部分。

背景技术

申请人提供以下说明以帮助读者理解。所提供的信息或所引用的参考文献均不被承认是现有技术。

机器学习算法被广泛应用于诸如医学成像、计算机视觉、广告、游戏等领域。机器学习算法处理大量的输入数据。随着输入数据的量增加，处理大量输入数据所需的计算时间和计算资源也在增加。然而，当前使用的机制在机器学习应用程序中的配置方式和处理输入数据的方式是有限的。

发明内容

根据本公开的一些方面，公开了一种系统。该系统包括具有多个乘法器的乘法电路。该多个乘法器中的每个乘法器被配置为接收数据值和权重值以在机器学习应用程序的卷积操作中生成乘积值。该系统还包括累加器和寄存器组，该累加器被配置为从该多个乘法器中的每个乘法器接收该乘积值，该寄存器组被配置为存储该卷积操作的输出。该累加器被进一步配置为接收存储在该寄存器组中的值的一部分，并且将值的所接收到的部分与这些乘积值组合以生成组合值。该寄存器组被进一步配置为用这些组合值替换值的该部分。

根据本公开的一些其他方面，公开了一种方法。该方法包括由机器学习应用程序中的处理器将数据值和权重值输入到多个乘法器中的每个乘法器中，以在卷积操作的多次迭代中的每次迭代中生成多个乘积值。该方法还包括由该处理器在该多次迭代中的每次迭代中将该多个乘积值中的每个乘积值和累加器中的多个累加器值中的一个累加器值组合以生成多个组合值。从寄存器组接收该多个累加器值。该方法还包括由该处理器在该多次迭代中的每次迭代中用该寄存器组中的该多个组合值替换该多个累加器值。

根据本公开的其它方面，公开了一种在其上存储有计算机可读指令的非暂态计算机可读介质。这些计算机可读指令当由与机器学习应用程序相关联的处理器执行时使该处理器：将输入特征映射图划分成多个子特征映射图，并且将该多个子特征映射图中的每个子特征映射图输入到多个张量计算单元中的张量计算单元中以生成输出子特征映射图。针对该多个子特征映射图的第一子特征映射图的输出子特征映射图的生成包括：将该第一子特征映射图的多个数据值输入到该多个张量计算单元中的第一张量计算单元的多个乘法器中；将权重值输入到该多个乘法器中以用于生成多个乘积值；将该多个乘积值中的每个乘积值和先前计算的乘积值中的一个乘积值组合以获得多个组合值；将该多个组合值移位以获得针对该第一子特征映射图的该输出子特征映射图；以及组合来自该多个张量计算单元中的每个张量计算单元的该输出子特征映射图以获得输出特征映射图。

前述发明内容仅是例示性的，并不旨在以任何方式进行限制。除了上述例示性方面、实施方案和特征之外，通过参考以下附图和具体实施方式，另外的方面、实施方案和特征将变得显而易见。

附图说明

图1是根据本公开的一些实施方案的计算系统的示例性框图。

图2是根据本公开的一些实施方案的图1的计算系统的加速器的示例性框图。

图3A和图3B是根据本公开的一些实施方案的将输入特征映射图转换成多个子特征映射图的示例。

图4是根据本公开的一些实施方案的图2的加速器的稀疏张量存储器集群的示例性框图。

图5是根据本公开的一些实施方案的图2的加速器的稀疏张量存储器集群的另一个示例性框图。

图6是根据本公开的一些实施方案的图4和图5的稀疏张量存储器集群的稀疏张量特征映射图存储器单元的示例性框图。