[发明专利]矩阵计算电路、方法、电子设备及计算机可读存储介质

说明书

本公开实施例公开了一种矩阵计算电路、方法、电子设备及计算机可读存储介质。其中该矩阵计算电路包括：第一数据读取电路，用于读取并缓存第一矩阵中的第一数据和所述第一数据的位置信息，其中所述第一矩阵为数据矩阵的压缩矩阵；第二数据读取电路，用于根据所述第一数据的位置信息读取并缓存第二矩阵中的第二数据；计算电路，用于根据所述第一数据和所述第二数据计算得到第三数据。上述矩阵计算电路通过读取出来的第一数据的位置信息控制第二数据的读取，解决了现有技术中进行矩阵计算时只能进行单个数据计算、取数地址计算复杂的技术问题。

技术领域

本公开涉及处理器领域，尤其涉及一种矩阵计算电路、方法、电子设备及计算机可读存储介质。

背景技术

随着科学技术的发展，人类社会正在快速进入智能时代。智能时代的重要特点，就是人们获得数据的种类越来越多，获得数据的量越来越大，而对处理数据的速度要求越来越高。芯片是任务分配的基石，它从根本上决定了人们处理数据的能力。从应用领域来看，芯片主要有两条路线：一条是通用芯片路线，例如CPU(central processing unit)等，它们能提供极大的灵活性，但是在处理特定领域算法时有效算力比较低；另一条是专用芯片路线，例如TPU(tensor processing unit)等，它们在某些特定领域，能发挥较高的有效算力，但是面对灵活多变的比较通用的领域，它们处理能力比较差甚至无法处理。由于智能时代的数据种类繁多且数量巨大，所以要求芯片既具有极高的灵活性，能处理不同领域且日新月异的算法，又具有极强的处理能力，能快速处理极大的且急剧增长的数据量。

在神经网络计算中，卷积计算占了总运算量的大部分，而卷积计算可以转换成矩阵乘计算，因此要提高神经网络任务中的吞吐量、降低延时、提升芯片的有效算力，重点在于提升矩阵乘计算的速度。

很多神经网络中的数据(这里的数据包括神经网络中的参数数据和输入数据)组成的矩阵是稀疏矩阵，即矩阵中有大量的元素的值为0。为了降低神经网络计算中数据的存储量和带宽占用，会压缩稀疏矩阵进行存储；为了提升矩阵运算速度，会对稀疏矩阵运算进行的优化。

图1a为在神经网络中矩阵乘计算的示意图。如图1a所示，M1为数据矩阵，M2为参数矩阵，M为输出矩阵。M1中的一行数据和M2中的一列参数做乘加计算得到M中的一个数据。其中图1a中的M1和M2两个矩阵，可能有一个是稀疏矩阵，也可能两个都是稀疏矩阵。

如图1b所示为矩阵的压缩示意图。对稀疏矩阵中的存储，可以采用通用的压缩方法：只存储非0的元素。存储此非0元素的值的同时，会存储它在矩阵中的位置信息，即元素在矩阵中的相对坐标X和Y。其中X代表矩阵行序号，Y代表矩阵列序号。这种方法，是将数据和坐标作为一个数据结构，以此数据结构为单位进行存储。如图1b所示，以一个MxN的矩阵为例，从左侧的MxN矩阵压缩成右侧的压缩矩阵，压缩矩阵中的每一个数据结构表示左侧矩阵中的非0数据以及该非0数据在所述矩阵中的坐标。

在稀疏矩阵中，由于矩阵中有的元素的值为0，而这些0元素不需要存储，所以采取这种压缩方法，能有效的降低矩阵的存储容量。如图1c所示为使用上述压缩方法对矩阵进行压缩的实例示意图。对于16x16的稀疏矩阵，只有a，b，c和d为非0的元素，进行压缩存储后，只需要存储这几个元素的值和坐标，从而节省了存储空间。

在进行M1xM2的矩阵运算时，使用压缩之后的矩阵作为实际取数时所使用的矩阵。然而上述技术方案存在以下缺点：1、在进行矩阵运算时，数据的利用率低，通常只能使用独立的运算单元，对单个数据进行计算；2、根据压缩矩阵的数据坐标，计算取数地址复杂，影响性能的发挥。

发明内容

提供该发明内容部分以便以简要的形式介绍构思，这些构思将在后面的具体实施方式部分被详细描述。该发明内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征，也不旨在用于限制所要求的保护的技术方案的范围。

为了解决现有技术中的上述技术问题，本公开实施例提出如下技术方案: