[发明专利]用于人工智能应用的可定制芯片

说明书

在一个实施方案中，计算设备包括提供输入数据的输入传感器；实现卷积神经网络(CNN)的可编程逻辑器件(PLD)，其中：PLD的每个计算块对应于CNN的多个卷积层中的一者，PLD的每个计算块邻近至少两个存储器块放置，存储器块中的第一存储器块充当用于CNN的对应层的缓冲器，并且存储器块中的第二存储器块存储用于CNN的对应层的特定于模型的参数。

技术领域

本公开整体涉及实现为定制的集成电路的神经网络。

背景技术

对象检测和识别/分类是许多系统的重要方面。这些功能基于图像的处理和解译，并且通常作为决策过程的一部分用于涉及图像、对象和模式识别的许多应用和设置中。示例性应用包括安全、访问控制、识别/认证、机器视觉、人工智能、工程、制造、机器人、系统控制、自主车辆，以及涉及某种形式的对象或模式识别、对象检测或基于图像的自动决策的其他情况。

神经网络是彼此间交换消息的互连人工“神经元”的系统。连接具有在训练过程中调整的数值权重，使得经适当训练的网络在面临要识别的图像或模式时将正确地响应。该网络由多层特征检测“神经元”组成。每个层具有多个神经元，这些神经元对来自先前层的输入的不同组合作出响应。网络的训练使用与其预期输出响应相关联的各种具有代表性输入模式中的输入的“标记”数据集来执行。训练使用通用方法迭代地确定中间和最终特征神经元的权重。就计算模型而言，每个神经元计算输入和权重的点积，加上偏差，并应用非线性触发器函数(例如，使用sigmoid响应函数)。深度神经网络(DNN)已在包括计算机视觉和语音识别在内的若干应用领域中显示出显著的改进。在计算机视觉中，被称为卷积神经网络(CNN)的特定类型的DNN已展示出在对象识别和检测方面的最先进成果。CNN是上述神经网络的一个特例。CNN包含通常具有子采样层的一个或多个卷积层，之后是一个或多个全连接层，如标准神经网络中那样。

图1是示出由示例性CNN 100的层执行的操作的示意图，其示出了多个卷积操作102、多个子采样操作104和全连接阶段106，直至产生输出108。如图1所示，将输入数据(诸如图像的数字化表示)提供至第一阶段110，其中输入数据通过卷积102和子采样104的操作来处理。将第一阶段110的输出提供至第二阶段120，其中由第一阶段110处理的输入数据通过附加卷积102和子采样104的操作来处理。然后，将第二阶段的输出提供至分类器130(例如，全连接层)，其中通过第二阶段处理的数据被处理成输出108。

在CNN中，用于特征提取的卷积层的权重以及用于分类的全连接层的权重在训练过程中确定。CNN的改进网络结构带来存储器需求和计算复杂度需求方面的节省，同时为其中输入具有局部相关性的应用程序(例如，图像和语音)提供更好的性能。

通过在CNN中堆叠多个不同的层，构建针对分类问题的复杂架构。四种类型的层是最常见的：卷积层、池化层/子采样层、非线性层和全连接层。卷积操作提取输入的不同特征。第一卷积层提取低级别的特征，诸如边缘、线条和拐角；更高级别的层提取更高级别的特征。池化层/子采样层用来降低特征的分辨率并且使得特征对噪声和畸变更稳健。存在两种方法来进行池化：最大池化和平均池化。一般来讲，神经网络(尤其是CNN)依靠非线性“触发”功能来发信号指示对每个隐藏层上的可能特征的不同识别。CNN可使用多种特定功能，诸如整流线性单元(ReLU)和连续触发(非线性)功能，以有效地实现该非线性触发功能。全连接层通常用作CNN的最终层。这些层以数学方式对前一层特征的权重求和，以指示用于确定特定的目标输出结果的因素的精确混合。对于全连接层，前一层的所有特征的所有元素用于计算每个输出特征的每个元素。