[发明专利]一种执行人工神经网络运算的装置和方法

说明书

本发明提供了一种执行人工神经网络运算的装置和方法，装置包括Clock Gating(时钟门控)单元、指令缓存单元、控制器单元、直接内存访问单元、互连模块、主运算模块以及多个从运算模块。使用该装置可以低功耗的实现多层人工神经网络的运算。在人工神经网络运算过程中，Clock Gating单元根据指令控制指令缓存单元、控制器单元、直接内存访问单元、互连模块、主运算单元以及多个从运算模块的时钟信号打开或者置0，保留具体运算相关单元的时钟信号，无关单元的时钟信号置0，从而减少了运算过程中参与工作模块的数量，实现低功耗执行人工神经网络。

技术领域

本发明总体上涉及人工神经网络，具体地涉及一种执行人工神经网络运算的装置和方法，能够解决人工神经网络运算功耗较高的问题。

背景技术

多层人工神经网络被广泛应用于模式识别，图像处理，函数逼近和优化计算等领域，多层人工网络在近年来由于其较高的识别准确度和较好的可并行性，受到学术界和工业界越来越广泛的关注。

一种支持多层人工神经网络运算的已知方法是使用通用处理器。该方法通过使用通用寄存器堆和通用功能部件执行通用指令来支持上述算法。该方法的缺点之一是单个通用处理器的运算性能较低，无法满足通常的多层人工神经网络运算的性能需求。而多个通用处理器并行执行时，通用处理器之间相互通信又成为了性能瓶颈。另外，通用处理器需要把多层人工神经网络正向运算译码成一长列运算及访存指令序列，处理器前端译码带来了较大的功耗开销。

另一种支持多层人工神经网络运算的已知方法是使用图形处理器(GPU)。该方法通过使用通用寄存器堆和通用流处理单元执行通用SIMD指令来支持上述算法。由于GPU是专门用来执行图形图像运算以及科学计算的设备，没有对多层人工神经网络运算的专门支持，仍然需要大量的前端译码工作才能执行多层人工神经网络运算，带来了大量的额外开销。另外GPU只有较小的片上缓存，多层人工神经网络的模型数据(权值)需要反复从片外搬运，片外带宽成为了主要性能瓶颈。另外，GPU只有较小的片上缓存，多层人工神经网络的模型数据(权值)需要反复从片外搬运，片外带宽成为了主要性能瓶颈，同时带来了巨大的功耗开销。

另一种支持多层人工神经网络运算的已知方法是传统神经网络加速器。该方法通过设计专用集成电路，使用专用的寄存器堆和专用流处理单元执行上述算法。但是随着专用集成电路规模的不断扩大导致专用电路高温、高功耗等问题以及电路电流电压频繁变化导致的电路工作不稳定等问题。

随着现有平台的功耗问题越来越突出，现有平台已无法满足用户需求。

发明内容

(一)要解决的技术问题

本发明提供了一种执行人工神经网络运算的装置和方法，解决现有技术中存在的功耗过高、运行不稳定等问题。

(二)技术方案

本发明提供了一种执行人工神经网络运算的装置，包括：控制器单元、被控模块组和时钟门控单元；其中，所述被控模块组与所述时钟门控单元连接，在所述时钟门控单元的控制下，所述被控模块组中参与人工神经网络运算的模块打开，被控模块组中不参与人工神经网络运算的模块关闭，降低人工神经网络运算的功耗。

本发明还提供了一种执行人工神经网络运算的方法，其利用执行人工神经网络运算的装置，包括：进行人工神经网络初始化的步骤；进行人工神经网络计算的步骤；进行人工神经网络计算结果输出的步骤；其中，在上述至少一个步骤中，打开参与人工神经网络运算的模块，关闭不参与人工神经网络运算的模块，降低人工神经网络运算的功耗。

(三)有益效果

从上述技术方案可以看出，本发明的执行人工神经网络运算的装置和方法具有以下有益效果：

(1)在本发明的装置可以将不参与运算模块关闭，仅开启参与运算的模块，使得装置的各个模块不是始终都保持在开启状态，从而降低了装置的功耗，可以实现低功耗的人工神经网络运算；