[发明专利]用于在边缘设备上执行机器学习操作的可编程电路

说明书

本公开的某些方面涉及一种用于对具有一个或多个可编程电路的设备进行编程以实现例如机器学习模型的方法和装置。一个示例装置通常包括多条字线、多条位线和可编程电路阵列。每个可编程电路被耦合至多条字线中的对应字线和多条位线中的对应位线，并且包括：被耦合在对应字线与对应位线之间的主电阻器、辅助电阻器、与辅助电阻器串联耦合的熔断器(其中该辅助电阻器和该熔断器被耦合在对应字线与对应位线之间)、以及被配置成选择性地将熔断器熔断的编程电路。

根据35 U.S.C.§119的优先权要求

本申请要求于2019年8月30日提交的题为“PROGRAMMABLE CIRCUITS FORPERFORMING MACHINE LEARNING OPERATIONS ON EDGE DEVICES(用于在边缘设备上执行机器学习操作的可编程电路)”的非临时申请No.16/556,505的优先权，该申请被转让给本申请受让人并由此通过援引明确纳入于此。

公开领域

本公开一般涉及人工神经网络，并且尤其涉及用于在边缘设备上执行机器学习操作的技术和装置。

相关技术描述

可包括一群互连的人工神经元(例如，神经元模型)的人工神经网络是一种计算设备或者表示将由计算设备执行的方法。这些神经网络可被用于各种应用和/或设备，诸如网际协议(IP)相机、物联网(IoT)设备、自主车辆、和/或服务机器人。

人工神经网络中的个体节点可通过获取输入数据并对该数据执行简单操作来模拟生物神经元。对输入数据执行的简单操作的结果被选择性地传递给其他神经元。权重值与网络中的每个向量和节点相关联，并且这些值限制了输入数据如何与输出数据有关。例如，每个节点的输入数据可乘以对应的权重值，并且可对该乘积求和。该乘积的总和可通过可任选的偏置进行调节，并且可将激活函数应用于结果，从而产生节点的输出信号或“输出激活”。权重值最初可由训练数据通过网络的迭代流来确定(例如，权重值是在其中网络学习如何通过其典型输入数据特征来标识特定类别的训练阶段期间建立的)。

存在不同类型的人工神经网络，诸如递归神经网络(RNN)、多层感知器(MLP)神经网络、卷积神经网络(CNN)等。RNN的工作原理是保存层的输出并将该输出反馈到输入，以帮助预测层的结果。在MLP神经网络中，数据可被馈送到输入层中，并且一个或多个隐藏层为数据提供抽象水平。随后可基于所抽象的数据来在输出层上进行预测。MLP可以特别适用于分类预测问题，其中输入被指派类别或标签。卷积神经网络(CNN)是一种前馈人工神经网络。卷积神经网络可包括人工神经元集合，其中每一个人工神经元具有感受野(例如，输入空间的空间局部化区域)，并且共同地拼出一输入空间。卷积神经网络具有众多应用。具体而言，CNN已经在模式识别和分类领域中被广泛使用。

在分层神经网络架构中，第一层人工神经元的输出成为第二层人工神经元的输入，第二层人工神经元的输出成为第三层人工神经元的输入，依此类推。

卷积神经网络可被训练以识别特征阶层。卷积神经网络架构中的计算可分布在处理节点群体上，其可被配置在一个或多个计算链中。这些多层架构可每次训练一层并可使用后向传播来微调。

概述

本公开的某些方面涉及一种可在其上执行机器学习模型的装置。该装置通常包括多条字线、多条位线和可编程电路阵列。阵列中的每个可编程电路被耦合至多条字线中的对应字线和多条位线中的对应位线。每个可编程电路包括：主电阻器，其被耦合在对应字线与对应位线之间；辅助电阻器；熔断器，其与辅助电阻器串联耦合，其中该辅助电阻器和该熔断器被耦合在对应字线与对应位线之间；以及编程电路，其被配置成选择性地将熔断器熔断。