[发明专利]一种自适应可重构的深度卷积神经网络计算方法和装置

说明书

本发明涉及一种自适应可重构的深度卷积神经网络计算方法和装置，该方法包括：根据控制信号决定计算装置的程序执行流程；根据深度神经卷积网络规模参数对基本计算基元进行动态重构确定运算单元的组合级别和并行度；根据不同的重构情况载入相对应的处理数据，对不同属性的卷积神经网络层进行相应计算，最终得到该组神经元的连接输出结果。本发明解决了专有硬件灵活性较低的不足，可以重构运算单元的设计参数来达到支持不同规模的深度卷积神经网络的目的；本发明既可以满足相同规模的卷积核并行运算，又可以实现不同规模的卷积核并行运算，可动态重构的运算单元极大的提高了深度卷积神经网络运算的并行度，提升了计算性能。

技术领域

本发明涉及计算机技术领域，具体涉及一种自适应可重构的深度卷积神经网络计算方法和装置。

背景技术

本部分向读者介绍可能与本发明的各个方面相关的背景技术，相信能够向读者提供有用的背景信息，从而有助于读者更好地理解本发明的各个方面。因此，可以理解，本部分的说明是用于上述目的，而并非构成对现有技术的承认。

深度神经网络在当前的多个应用领域均产生了优异的效果，如人脸识别，物体检测，自动驾驶，语音识别等等，得到了十分广泛的应用。随着算法准确度的提升，神经网络的深度在不断增加，模型结构也在不断复杂化。数十甚至上百的网络层数、百万千万级的权值数据总数、大小各异的卷积核异构等等，都使得深度神经网络在实际计算的过程中，需要大量的计算资源和存储资源。考虑到性能功耗比，专用的硬件设计与在通用CPU或GPU上运行神经网络具有很大的优势，可以在低功耗的同时很好的满足计算性能。

在硬件实现和设计的过程中，仍然存在着诸多问题，例如，如何进行计算基元个数等设计参数的选择。因为专用硬件的灵活性较低，设计参数的选择问题就显得尤为重要。在某一确定的神经网络模型中，各个卷积层中卷积核的大小往往也不尽相同。这种情况下，计算基元的个数往往会根据最大的卷积核规模来确定，从而满足计算需求。这种选择方案在计算规模较小卷积核时，会产生硬件资源的浪费，没有办法最大限度的发挥硬件的性能。

除此之外，一些复杂结构的网络模型中，同一层卷积层内也会存在多个不同大小的卷积核计算。例如，谷歌公司提出的卷积神经网络模型googlenet，在一个卷积层中采用多个不同大小的卷积核对同一张输入特征图(Feature Map)进行操作的方法，卷积所得结果直接进行连接作为下一层的卷积输入。固定设计的计算基元只能分别串行的计算这些不同规模的卷积操作，并行度较低，不足以满足实际应用对计算性能的要求。由此可见，现有技术在实际应用过程中存在着一些不足和缺陷，需要对其加以改进和优化。

发明内容

要解决的技术问题是如何提供一种自适应可重构的深度卷积神经网络计算方法和装置。

针对现有技术中的缺陷，本发明提供一种自适应可重构的深度卷积神经网络计算方法和装置，能够动态重构计算单元模块，实现各个基本计算基元的独立运行或组合运行，从而支持不同规模的深度卷积神经网络，提高计算性能。

第一方面，本发明提供了一种自适应可重构的深度卷积神经网络计算方法，包括：

根据控制信号决定计算装置的程序执行流程，根据深度卷积神经网络规模参数对基本计算基元进行动态重构确定运算单元的组合级别和并行度；

根据不同的重构情况载入相对应的处理数据，对不同属性的卷积神经网络层进行相应计算；

进行对应数据的乘加操作、累加操作以及非线性激活函数映射，最终得到所述根据不同的重构情况载入相对应的处理数据的神经元的连接输出结果。

可选地，所述根据深度卷积神经网络规模参数对基本计算基元进行动态重构包括：

神经元的卷积核宽度以及高度的规模小于等于基本计算基元的宽度和高度，则每个基本计算基元并行化处理，相互独立地执行运算。