[发明专利]数据处理方法和装置

说明书

本说明书实施例提供一种数据处理方法和装置，将第一输入数据中的第一输入数据块和第二输入数据中的第二输入数据块从内存直接加载到寄存器，再对寄存器中的第一输入数据块和第二输入数据块进行矩阵乘法处理；其中，所述第一输入数据的宽度远小于所述第二输入数据的宽度。

技术领域

本公开涉及数据处理技术领域，尤其涉及数据处理方法和装置。

背景技术

矩阵乘法处理在许多高性能计算场景中有着极其重要的地位。例如在目前得到广泛运用的卷积神经网络(Convolutional Neural Networks，CNN)中，有很大一部分的耗时来源于进行矩阵乘法处理所带来的耗时。因此，优化矩阵乘法的性能对于优化高性能计算的耗时有着重要意义。

发明内容

本公开提供一种数据处理方案。

根据本公开实施例的第一方面，提供一种数据处理方法，所述方法包括：将第一输入数据中的第一输入数据块从内存加载到第一寄存器；将第二输入数据中的第二输入数据块从所述内存加载到第二寄存器；对所述第一寄存器中的所述第一输入数据块与所述第二寄存器中的所述第二输入数据块进行矩阵乘法处理，得到输出数据的输出数据块；其中，所述第一输入数据的宽度远小于所述第二输入数据的宽度。

在一些实施例中，所述将第二输入数据中的第二输入数据块从所述内存加载到第二寄存器，包括：基于指向所述内存中的第一目标地址的第一指针，将所述第一目标地址中存储的第一元素加载到所述第二寄存器，其中，所述第一元素为所述第二输入数据块中第j行最后一个元素；将读指针由所述第一指针跳转至指向所述内存中的第二目标地址的第二指针，其中，所述第二指针与所述第一指针之间的距离为所述第二输入数据的行数与所述第二输入数据块的行数之差；基于所述第二指针，将所述第二目标地址存储的第二元素加载到所述第二寄存器。

在一些实施例中，所述方法还包括：将所述输出数据块存储至第三寄存器；将所述第三寄存器中的输出数据块加载到所述内存。

在一些实施例中，所述将所述第三寄存器中的输出数据块加载到所述内存，包括：基于指向所述内存中的第三目标地址的第三指针，将所述输出数据块第m行的最后一个元素从所述第三寄存器存储到所述第三目标地址；将写指针由所述第三指针跳转至指向所述内存中的第四目标地址的第四指针，其中，所述第三目标地址与所述第四目标地址之间的距离为所述输出数据的行数与所述输出数据块的行数之差；基于所述第四指针，将所述输出数据块第m+1行的第一个元素从所述第三寄存器存储到所述第四目标地址。

在一些实施例中，所述将第一输入数据中的第一输入数据块从内存加载到第一寄存器，包括：基于指向所述内存的第五目标地址的第五指针，将所述第五目标地址所存储的第五元素加载到所述第一寄存器，其中，所述第五元素为所述第一输入数据块中第i列最后一个元素；将读指针从所述第五指针跳转至指向所述内存中的第六目标地址的第六指针，其中，所述第六目标地址与所述第五目标地址之间的距离为所述第一输入数据的列数与所述第一输入数据块的列数之差；基于所述第六指针，将所述第六目标地址所存储的第六元素加载到所述第一寄存器。

在一些实施例中，所述第一输入数据的高度远小于所述第二输入数据的宽度。

在一些实施例中，所述第一输入数据为神经网络的卷积核参数，所述第二输入数据为图像的特征图。

根据本公开实施例的第二方面，提供一种数据处理装置，所述装置包括：第一加载模块，用于将第一输入数据中的第一输入数据块从内存加载到第一寄存器；第二加载模块，用于将第二输入数据中的第二输入数据块从所述内存加载到第二寄存器；处理模块，用于对所述第一寄存器中的所述第一输入数据块与所述第二寄存器中的所述第二输入数据块进行矩阵乘法处理，得到输出数据的输出数据块；其中，所述第一输入数据的宽度远小于所述第二输入数据的宽度。

根据本公开实施例的第三方面，提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现任一实施例所述的方法。