[发明专利]利用相同处理单元实施不同类型的卷积运算的方法和装置

说明书

本申请涉及用于利用相同的处理单元实施不同类型的卷积运算的方法和装置，其中用于在目标上实施卷积神经网络（CNN）加速器的方法包括：利用一个或多个处理单元来实施卷积。修改CNN加速器的配置，以便改变由CNN加速器实施的滤波器并且改变输出数据的格式化。所述一个或多个处理单元被利用来响应于输出数据的格式化和滤波器中的改变而实施反卷积和后向传播卷积之一。

相关申请

本申请要求2016年8月25日提交的标题为“A Method and Architecture forComputing Three Convolution Types (Convolution, Deconvolution and ConvolutionBackpropagation) Using a Generic Dot-Product Engine（用于使用通用点积引擎计算三种卷积类型（卷积、反卷积和卷积后向传播）的方法和架构）”的美国临时专利申请号62/379,718的权益和优先权，该申请的全部完整主题内容特此通过引用的方式被明确地全文合并在本文中。本申请还是2016年2月6日提交的标题为“Method and Apparatus forImplementing Layers on a Convolutional Neural Network Accelerator（用于在卷积神经网络加速器上实施各层的方法和装置）”的共同待审美国申请号15/017,597的部分继续申请并且在美国法典第35章第120节下要求其权益，该申请是2015年10月9日提交的标题为“Method and Apparatus for Designing and Implementing a Convolution NeuralNet Accelerator（用于设计和实施卷积神经网络加速器的方法和装置）”的共同待审美国申请号14/879,928的部分继续申请并且在美国法典第35章第120节下要求其权益。美国申请号15/017,597还要求2015年10月7日提交的标题为“Method and Apparatus forDesigning and Implementing Standard and Fully-Connected Convolution Layers ona Convolutional Neural Network Accelerator（用于在卷积神经网络加速器上设计和实施标准并且完全连接的卷积层的方法和装置）”的美国临时专利申请号62/238,598的权益和优先权，该申请的全部完整主题内容特此通过引用的方式被明确地全文合并在本文中。

技术领域

本发明涉及处理数据的领域。本公开内容的实施例涉及用于在目标设备和硬件加速器上设计用于实施不同类型的卷积的系统的工具。更具体来说，本公开内容的实施例涉及一种用于利用相同的处理单元实施不同类型的卷积运算的方法和装置。

背景技术

随着图像和视频在因特网上变得更加无所不在，产生了针对能够对于各种应用（包括搜索和概括）高效地分析其语义内容的算法的需求。卷积神经网络（CNN）已被证明是用于实施图像辨识、检测和取回的有效工具。CNN可以被扩大规模并且被配置成支持对于学习处理所需要的大的加标签数据集。在这些条件下，已经发现CNN在学习复杂并且鲁棒的图像特征方面是成功的。

CNN是一种前馈人工神经网络，其中各个单独的神经元以使得其对视场中的重叠区段作出响应的方式被拼贴。CNN是受到生物的视神经的行为的启发。CNN利用多层神经元连接处理数据，从而在图像辨识中实现高准确度。多层CNN的发展已导致复杂辨识任务（比如大类别图像分类、自动话音辨识以及其他数据分类/辨识任务）的准确度方面的改进。

单一处理器的计算能力方面的限制导致对于其他计算配置的探索以便满足对于支持CNN的需求。在各个探索领域当中，对于以图形处理单元（GPGPU）、多核处理器、现场可编程门阵列（FPGA）和专用集成电路（ASIC）上的通用计算的形式利用硬件专门化的CNN加速器进行了研究。

发明内容

本发明要解决的技术问题是如何提高计算能力。