[发明专利]图像数据的矩阵运算方法、装置、设备及存储介质

说明书

本申请公开了一种图像数据的矩阵运算方法、装置、设备及存储介质，涉及计算机技术领域。所述方法包括：基于图像算子的矩阵尺寸M行N列，在所述图像数据中读取矩阵数据；采用所述图像算子对应的单一计算指令对所述矩阵数据中的每列数据分别计算，得到1行中间计算结果；将所述1行中间计算结果复用重排为N行缓存数据；采用所述单一计算指令对所述缓存数据中目标列的矩阵元素进行计算，得到所述矩阵数据在所述单一计算指令下的计算结果；将所述计算结果输出为所述图像算子对所述矩阵数据的图像处理结果。本申请提高了对于图像数据进行矩阵运算的效率。

技术领域

本申请涉及计算机技术领域，特别涉及一种图像数据的矩阵运算方法、装置、设备及存储介质。

背景技术

在使用神经网络中的神经元对图像数据进行计算的场景中，由于神经元均为矩阵形式的算子，因此计算机需要将图像数据以矩阵的形式进行存储和计算。由于矩阵的运算过程往往计算量很大，时延严重，因此需要对矩阵运算进行优化来提升运算效率。

相关技术中提供有针对矩阵数据重排的优化方法，对源矩阵数据进行重排操作，例如将数据排为NC4HW4格式。该重排算法不仅由于数据的大规模调整会带来额外的耗时，而且对于通道数不能被4整除的矩阵，在运算时会加入额外的通道填充步骤。对于大型矩阵而言，重排算法对矩阵运算整体效率带来的提升可以抵消通道填充带来的额外耗费；而对于小型矩阵而言，通道填充带来的额外耗费对矩阵运算效率的影响非常大。

在对图像数据进行计算的场景中，如何提高小型矩阵的运算效率，是亟待解决的技术问题。

发明内容

本申请实施例提供了一种图像数据的矩阵运算方法、装置、设备及存储介质，能够通过对矩阵数据的中间计算结果进行重排，使得对图像数据的矩阵运算的效率得到提升。所述技术方案如下：

根据本申请的一个方面，提供了一种图像数据的矩阵运算方法，应用于计算机设备中，所述方法包括：

基于图像算子的矩阵尺寸M行N列，在所述图像数据中读取矩阵数据；

采用所述图像算子对应的单一计算指令对所述矩阵数据中的每列数据分别计算，得到1行中间计算结果；

将所述1行中间计算结果复用重排为N行缓存数据；

采用所述单一计算指令对所述缓存数据中目标列的矩阵元素进行计算，得到所述矩阵数据在所述单一计算指令下的计算结果，所述目标列是所述中间计算结果中的N个矩阵元素在所述N行缓存数据中同时所在的列；

将所述计算结果输出为所述图像算子对所述矩阵数据的图像处理结果。

根据本申请的另一方面，提供了一种图像数据的矩阵运算装置，所述装置包括：

读取模块，用于基于图像算子的矩阵尺寸M行N列，在所述图像数据中读取矩阵数据；

计算模块，用于采用所述图像算子对应的单一计算指令对所述矩阵数据中的每列数据分别计算，得到1行中间计算结果；

复用模块，用于将所述1行中间计算结果复用重排为N行缓存数据；

所述计算模块，还用于采用所述单一计算指令对所述缓存数据中目标列的矩阵元素进行计算，得到所述矩阵数据在所述单一计算指令下的计算结果，所述目标列是所述中间计算结果中的N个矩阵元素在所述N行缓存数据中同时所在的列；

输出模块，用于将所述计算结果输出为所述图像算子对所述矩阵数据的图像处理结果。

根据本申请的另一方面，提供了一种计算机设备，所述计算机设备包括处理器和存储器，所述存储器中存储有至少一条指令，所述指令由所述处理器加载并执行以实现如本申请各个方面提供的矩阵数据的运算方法。