[发明专利]配置用于执行层描述符列表的具有功率效率的深度神经网络模块

说明书

一种深度神经网络(DNN)处理器被配置为执行层描述符列表中的描述符。所述描述符定义用于由所述DNN处理器执行DNN的传递的指令。可以使用若干类型的描述符：存储器到存储器移动(M2M)描述符；操作描述符；主机通信描述符；配置描述符；分支描述符；以及同步描述符。DMA引擎使用M2M描述符来执行多维跨界DMA操作。操作描述符定义将由DNN处理器中的神经元执行的操作的类型以及将由神经元使用的激活函数。M2M描述符与操作描述符分开缓存，并且可以在受制于明确设置依赖性的情况下下尽快执行。结果，可以减少等待时间，并且因此神经元可以更快地完成其处理。因此，与其他方式相比，可以更早地关闭DNN模块的电源，从而节省功率。

背景技术

在诸如人脑等生物神经系统中，在信息处理和通信模式之后，对深度神经网络(“DNN”)进行松散建模。DNN可以用来解决复杂的分类问题，诸如但不限于对象检测、语义标记和特征提取。结果，DNN构成了很多人工智能(“AI”)应用的基础，诸如计算机视觉、语音识别和机器翻译。在很多领域，DNN都可以达到或甚至超过人类的准确性。

DNN的高级性能源于它们在对大数据集使用统计学习以获取输入空间的有效表示之后从输入数据中提取高级特征的能力。但是，DNN的优越性能是以高计算复杂度为代价的。诸如图形处理单元(“GPU”)等高性能通用处理器通常用于提供很多DNN应用所需要的高水平计算性能。

尽管诸如GPU等通用处理器可以为实现DNN提供高水平的计算性能，但是这些类型的处理器通常不适合在低功耗至关重要的计算设备中长时间执行DNN操作。例如，诸如GPU等通用处理器可能不适合在诸如智能手机或替代/虚拟现实(AR/VR)设备等电池供电的便携式设备中执行长时间运行的DNN任务，其中需要降低功耗以延长电池寿命。

在执行诸如人体活动的检测等连续DNN任务时，降低功耗在诸如以太网供电(“POE”)安全相机等非电池供电的设备中也很重要。在该特定示例中，POE交换机只能提供有限的电量，而POE设备(如安全相机)中的功耗降低造成较低的POE交换机的功耗和成本。

与通用处理器相比，已经开发出可以在降低功耗的同时提供高性能DNN处理的专用集成电路(“ASIC”)。尽管该领域取得了进步，但仍然需要提高执行DNN处理的ASIC的性能并且降低其功耗，尤其是在低功耗至关重要的计算设备中。

正是针对于这些和其他技术挑战，提出了本文的公开内容。

发明内容

公开了一种神经网络模块或处理器，其可以以在DNN计算的执行期间减少等待时间的方式来执行层描述符列表中的描述符。使用所公开的技术在DNN计算的处理期间减少等待时间可以减少功耗。还可以通过所公开的主题的实现来实现本文中未具体提及的其他技术益处。

为了实现上面简要提及的技术益处以及潜在的其他益处，公开了一种DNN模块，该DNN模块能够检索和执行层描述符列表中包含的描述符以实现DNN。层描述符列表(本文中可以称为“描述符列表”)由诸如编译器等软件预编译，并且包括用于由DNN模块执行神经网络的前向传递和/或后向传播的指令。

描述符列表中的描述符也可以用来配置DNN模块的操作的各方面，包括用于实现神经网络的DNN模块中的神经元的配置。在一个实施例中，描述符列表存储在用作DNN模块的主机的计算设备的主存储器中，并且由DNN模块加载以即时执行。

描述符列表可以包括几种类型的DNN层描述符(本文中可以称为“描述符”)：存储器到存储器移动(“M2M”)描述符；操作描述符；主机通信描述符；配置描述符；分支描述符；以及同步描述符。这些描述符类型中的每个将在下面描述。