[发明专利]稀疏神经网络的计算方法及相关产品

说明书

本公开提供一种稀疏神经网络的计算方法及相关产品，所述方法包括：接收稀疏神经网络的计算指令，依据所述计算指令获取所述计算指令对应的权值CO*CI*n*m；确定所述权值的核尺寸KERNEL SIZE，以所述核尺寸为基本粒度扫描所述权值得到权标识，将权标识的第二特征值对应的KERNEL存储，将权标识的第一特征值对应的KERNEL删除；扫描权标识的所有值，如该值等于第二特定值，提取该值对应的KERNEL以及输入数据，将输入数据与KERNEL执行运算得到初始结果，如该值等于第一特征值，不读取该值对应的KERNEL以及输入数据；将所有的初始结果进行运算处理得到所述计算指令的计算结果。本发明提供的技术方案具有功耗小的优点。

技术领域

本申请涉及人工智能技术领域，具体涉及一种稀疏神经网络的计算方法及相关产品。

背景技术

随着人工智能技术的日益成熟，各行各业的应用场景和产品需求爆发式增长；为了达到商用产品的需求，人工智能的神经网络算法的计算复杂度非常巨大，这对硬件而言，需要高昂的成本和巨大的功耗；而这对于海量的嵌入式设备和终端设备而言，计算量过大以及功耗巨大是非常大的瓶颈；所以业界的算法都在寻求更小更快的神经网络模型，而神经网络稀疏化是当前算法的一个重要优化方向和研究分支。

现有的实现技术稀疏神经网络计算在实现上比较复杂，难以把计算资源的利用率充分发挥出来，所以现有的稀疏神经网络的计算量大，功耗大。

申请内容

本申请实施例提供了一种稀疏神经网络的计算方法及相关产品，可以减少稀疏神经网络的计算量，从而具有降低功耗、节省计算时间的优点。

第一方面，本申请实施例提供一种稀疏神经网络的计算方法，所述方法包括如下步骤：

接收稀疏神经网络的计算指令，依据所述计算指令获取所述计算指令对应的权值CO NUM*CI NUM*n*m；确定所述权值的核尺寸KERNEL SIZE，以所述核尺寸为基本粒度扫描所述权值得到QMASK权标识，所述权标识包括：CO NUM*CI NUM个值，若第k个基本粒度KERNEL _k内所有的权重值均为0，对该KERNEL_K在权标识的对应位置权标识[K]标记为第一特定值，若KERNEL_K内的权重值不都为0，对该KERNEL _K在权标识的对应位置权标识[K]标记为第二特定值；k的取值范围为【1，CO NUM*CI NUM】；将权标识的第二特征值对应的KERNEL[n][m]存储，将权标识的第一特征值对应的KERNEL[n][m]删除；

扫描权标识的所有值，如该值等于第二特定值，提取该值对应的KERNEL以及该KERNEL对应的输入数据，将输入数据与KERNEL执行运算得到初始结果，若该值等于第一特征值，不读取该值对应的KERNEL以及输入数据；

将所有的初始结果进行运算处理得到所述计算指令的计算结果。

可选的，所述n以及m的取值范围为大于等1的整数。

可选的，所述将权标识的第二特征值对应的KERNEL[n][m]存储，包括：

扫描核标识WMASK获取核标识位置对应的值，存储QASM＝1且核标识＝1位置对应的KERNEL值。。

可选的，如所述n＝3，所述将输入数据与KERNEL执行运算得到初始结果，包括：