[发明专利]执行神经网络模型的数据处理装置、方法及相关产品

说明书

本披露公开了一种用于执行神经网络模型的数据处理装置、方法及相关产品。该数据处理装置可以作为计算装置包括在组合处理装置中，该组合处理装置还可以包括接口装置和其他处理装置。该计算装置与其他处理装置进行交互，共同完成用户指定的计算操作。组合处理装置还可以包括存储装置，该存储装置分别与计算装置和其他处理装置连接，用于存储该计算装置和其他处理装置的数据。本披露的方案对多维数组的卷积运算进行优化，提高了运算处理效率。

技术领域

本披露一般地涉及数据处理领域。更具体地，本披露涉及一种用于执行神经网络模型的数据处理装置、数据处理方法、芯片和板卡。

背景技术

目前，深度学习(Deep Learning)已经成为机器学习中的重要分支，也大力助推着人工智能(AI)的发展。深度学习的核心技术——深度神经网络(DNN)已在诸多行业有着广泛的应用。

卷积层是神经网络模型中的常用隐含层之一，其通过卷积运算对输入数据进行特征提取。神经网络模型中包含了大量的卷积运算，卷积运算的计算性能极大地影响整个神经网络模型的计算性能。在卷积运算中，对于卷积层的滤波器的各个维度，既存在指令对齐的要求，又存在硬件(例如，并行运算器)对齐的要求。因此，需要对卷积运算进行优化，以提高执行神经网络模型的计算性能。

发明内容

为了至少解决如上所提到的一个或多个技术问题，本披露在多个方面中提出了用于执行神经网络模型的数据处理方案，其通过对卷积层的滤波器进行变换，可以有效提高卷积运算的计算性能。本披露实施例的神经网络模型可以应用于各种领域，诸如图像处理、语音处理、文本处理等等，这些处理例如可以包括但不限于识别和分类。

在第一方面中，本披露提供了一种用于执行神经网络模型的数据处理装置，包括：

存储电路，配置用于存储所述神经网络模型的卷积层的折叠滤波器，所述折叠滤波器为原始滤波器经过维度折叠而得到的，其中所述维度折叠包括将宽度维度和/或高度维度的数据重新排放至输入通道维度；以及

处理电路，配置用于：

对输入特征图进行所述维度折叠以得到折叠特征图；以及

利用所述折叠滤波器对所述折叠特征图执行卷积运算以得到输出特征图。

在第二方面中，本披露提供了一种芯片，其包括前述第一方面的任一实施例的数据处理装置。

在第三方面中，本披露提供了一种板卡，其包括前述第二方面的任一实施例的芯片。

在第四方面中，本披露提供了一种由数据处理装置实施的用于执行神经网络模型的方法，所述数据处理装置包括存储电路和处理电路，所述方法包括：

所述处理电路对输入特征图进行维度折叠以得到折叠特征图；

所述处理电路利用存储在所述存储电路中的所述神经网络模型的卷积层的折叠滤波器对所述折叠特征图执行卷积运算以得到输出特征图；

其中所述折叠滤波器为原始滤波器经过所述维度折叠而得到的，并且所述维度折叠包括将宽度维度和/或高度维度的数据重新排放至输入通道维度。

通过如上所提供的数据处理装置、芯片、板卡以及由数据处理装置实施的数据处理方法，本披露的方案通过折叠滤波器来优化卷积运算。本披露的实施例尤其适用于原始滤波器的输入通道维度大小较小的情况。在常规卷积运算中，当滤波器的输入通道维度较小时，由于人工智能芯片指令集的向量化对齐的限制，将造成较多的冗余计算。本披露实施例通过将原始滤波器的卷积核宽度维度和/或高度维度的数据折叠到输入通道维度上以满足对齐要求，可以尽可能减少冗余计算，避免造成运算资源的浪费，提高卷积运算在硬件加速时的计算性能。

附图说明