[实用新型]用于深度学习加速的集成电路

说明书

本公开涉及用于深度学习加速的集成电路。实施例包括板载存储器、应用处理器、数字信号处理器(DSP)集群、可配置的加速器框架(CAF)和至少一个通信总线架构。通信总线将应用处理器、DSP集群和CAF通信地耦合到板载存储器。CAF包括可重配置的流交换器和数据体雕刻单元，其具有耦合到可重配置的流交换器的输入和输出。数据体雕刻单元具有计数器、比较器和控制器。数据体雕刻单元被布置为接收形成三维(3D)特征图的特征图数据的流。3D特征图被形成为多个二维(2D)数据平面。数据体雕刻单元还被布置为标识3D特征图内的3D体、并且从3D特征图隔离在3D体内的数据以用于在深度学习算法中进行处理。实施例能够高效地标识和隔离三维特征图内的三维体。

技术领域

本公开总体上涉及改善例如卷积神经网络(CNN)中的深度机器学习系统的灵活性、数据局部性和更快执行。更具体地但非排他性地，本公开涉及用于深度学习加速引擎的数据体(data volume)雕刻器(sculptor)。

背景技术

已知的计算机视觉、语音识别和信号处理应用受益于对学习机器的使用。本公开中所讨论的学习机器可以落入机器学习、人工智能、神经网络、概率推理引擎、加速器等的技术题目下。这样的机器被布置为快速地执行数百、数千以及数百万并发操作。常规学习机器可以递送数百万亿次浮点运算(即，每秒一万亿(10¹²)次浮点运算)的计算能力。

在一些情况下，学习机器被组织为深度卷积神经网络(DCNN)。DCNN领域中的开创性著作是Y.LeCun等人的“Gradient-Based Learning Applied To DocumentRecognition”(Proceedings of the IEEE，vol.86,no.11，第2278-2324页，1998)，其最终利用“AlexNet”赢得2012ImageNet大规模视觉识别挑战。如在Krizhevsky,A.Sutskever,I.和Hinton,G.的“ImageNet Classification With Deep Convolutional NeuralNetworks”(NIPS，第1-9页，Lake Tahoe，NV(2012))中描述的AlexNet是第一次表现明显好于经典方法的DCNN。

DCNN是处理大量数据并且通过合并数据内的最接近地相关的特征、做出关于数据的宽泛预测、并且基于可靠的结论和新的合并完善预测来自适应地“学习”的基于计算机的工具。DCNN被布置在多个“层”中并且在每个层处做出不同类型的预测。

例如，如果面部的多幅二维图片作为输入被提供给DCNN，则DCNN将学习各种面部特性，诸如边缘、曲线、角度、点、颜色对比度、亮点、暗点等。这些一个或多个特征在DCNN的一个或多个第一层处被学习。然后，在一个或多个第二层中，DCNN将学习各种可识别的面部特征，诸如眼睛、眉毛、前额、头发、鼻子、嘴巴、脸颊等；其中的每一个可与所有其他特征区分开。即，DCNN学习识别眼睛并将眼睛与眉毛或任何其他面部特征区分开。在一个或多个第三和之后的后续层中，DCNN学习整个面部和更高阶特性，诸如种族、性别、年龄、情绪状态等。DCNN甚至在一些情况被教导识别个人的特定身份。例如，随机图像可以被识别为面部，并且面部可以被识别为奥兰多·布鲁姆、安德烈·波伽利或某个其他身份。

在其他的一些示例中，DCNN可以被提供有动物的多幅图片，并且DCNN可以被教导标识狮子、老虎和熊；DCNN可以被提供有汽车的多幅图片，并且DCNN可以被教导标识并区分不同类型的车辆；并且许多其他DCNN也可以被形成。DCNN可以用于学习句子中的词语模式、识别音乐、分析个体购物模式、打视频游戏、创建交通路线，并且DCNN也可以用于许多其他基于学习的任务。

图1A-图1J可以在本文中被统称为图1。

图1A是卷积神经网络(CNN)系统10的简化图示。在CNN系统中，像素的二维阵列由CNN处理。CNN分析10×10输入对象平面以确定“1”是否被表示在该平面中，“0”是否被表示在该平面中，或者“1”或“0”是否都没有被实施在该平面中。