[发明专利]神经网络运算模块和方法

摘要

本发明公开了一种神经网络运算模块，其映射单元接收到第一输入数据的连接关系数据后，根据该第一输入数据的连接关系数据获取处理后的第一输入数据，运算单元获取处理后的第一输入数据和处理后的第二输入数据后，根据指令控制单元对神经网络运算指令进行译码得到的微指令对处理后的第一输入数据和处理后的第二输入数据进行人工神经网络运算；其中，第一输入数据为输入神经元或者权值，第二输入数据为权值或者输入神经元，且第一输入数据和第二输入数据不一致。采用本发明实施例减小了在进行人工神经网络运算之前译码的工作量，进而减小了额外的开销，并且提高了运算速率。

主权项

1.一种神经网络运算模块，其特征在于，包括：/n映射单元，用于获取第一输入数据的连接关系数据后，根据所述第一输入数据的连接关系数据获取处理后的第一输入数据，并将所述处理后的第一输入数据存储到第一输入缓存单元中；所述第一输入数据的连接关系数据为输入神经元的连接关系数据或者权值的连接关系数据，所述处理后的第一输入数据为处理后的输入神经元或者处理后的权值；具体包括：所述第一输入数据是以矩阵的形式表示的，所述第一输入数据的连接关系数据以列表的列表LIL的形式表示，以所述LIL的形式表示的连接关系数据包括至少一个列表，所述至少一个列表中的每个列表包括至少一个记录，所述记录包括绝对值大于预设阈值的第一输入数据的列索引和绝对值大于预设阈值的第一输入数据的值，所述映射单元具体用于：/n根据所述LIL中的每个记录获取所述处理后的第一输入数据，并将所述处理后的第一输入数据存储到第一输入缓存单元中，或者；/n所述第一输入数据是以矩阵的形式表示的，所述第一输入数据的连接关系数据以坐标列表COO的形式表示，以所述COO形式表示的连接关系数据由至少一个元组组成，所述元组包括第一输入数据矩阵中绝对值大于预设阈值的第一输入数据在所述第一输入数据矩阵中的行号、列号和该绝对值大于预设阈值的第一输入数据的值，所述映射单元具体用于：/n根据所述坐标列表中的每个元组获取所述处理后的第一输入数据，并将所述处理后的第一输入数据存储到所述第一输入缓存单元中，或者；/n所述第一输入数据是以矩阵的形式表示的，所述第一输入数据的连接关系数据以压缩稀疏行CSR的形式表示，以所述CSR的形式表示的连接关系数据包括三个数组，分别为第一数组，第二数组和第三数组，所述第一数组存储第一输入数据矩阵中的绝对值大于预设阈值的第一输入数据的值，所述第二数组存储所述第一输入数据矩阵中的绝对值大于预设阈值的第一输入数据在所述第一输入数据矩阵中的列索引，所述第三数组用于累加存储所述第一输入数据矩阵中每一行绝对值大于预设阈值的第一输入数据的个数，并且所述第三数组中的最后一个元素存储所述第一输入数据矩阵中绝对值大于预设阈值的第一输入数据的个数，所述映射单元具体用于：/n根据所述第一数组，所述第二数组和所述第三数组获取所述处理后的第一输入数据，并将所述处理后的第一输入数据存储到所述第一输入缓存单元中，或者；/n所述第一输入数据是以矩阵的形式表示的，所述第一输入数据的连接关系数据以压缩稀疏列CSC的形式表示，以所述CSC的形式表示的连接关系数据包括三个数组，分别为第四数组，第五数组和第六数组，所述第四数组存储第一输入数据矩阵中的绝对值大于预设阈值的第一输入数据的值，所述第五数组存储所述第一输入数据矩阵中的绝对值大于预设阈值的第一输入数据在所述第一输入数据矩阵中的行索引，所述第六数组用于累加存储所述第一输入数据矩阵中每一列绝对值大于预设阈值的第一输入数据的个数，并且所述第六数组中的最后一个元素存储所述第一输入数据矩阵中绝对值大于预设阈值的第一输入数据的个数，所述映射单元具体用于：/n根据所述第四数组，所述第五数组和所述第六数组获取所述处理后的第一输入数据，并将所述处理后的第一输入数据存储到所述第一输入缓存单元中，或者；/n所述第一输入数据是以矩阵的形式表示的，所述第一输入数据的连接关系数据以ELL的形式表示，以所述ELL的形式表示的连接关系数据包括两个矩阵，分别为第一矩阵和第二矩阵，所述第一矩阵用于存储所述第一输入数据矩阵中绝对值大于预设阈值的第一输入数据在所述第一输入数据矩阵中的列号，所述第二矩阵存储所述绝对值大于预设阈值的第一输入数据的值，所述映射单元具体用于：/n根据所述第一矩阵和所述第二矩阵获取所述处理后的第一输入数据，并将所述处理后的第一输入数据存储到所述第一输入缓存单元中，或者；/n所述第一输入数据是以矩阵的形式表示的，所述第一输入数据的连接关系数据以混合HYB的形式表示，以所述HYB形式表示的连接关系数据包括第三矩阵、第四矩阵和至少一个元组，所述第四矩阵存储第一输入数据矩阵中每一行最大相同数量的绝对值大于预设阈值的第一输入数据，所述第三矩阵存储在所述第四矩阵中存储的绝对值大于预设阈值的第一输入数据在所述第一输入数据矩阵中的列号，所述至少一个元组中的每个元组用于存储所述第一输入数据矩阵中的任一行相对于其他行多出来第一输入数据的行号，列号和该第一输入数据的值，所述映射单元具体用于：/n根据所述第三矩阵、所述第四矩阵和所述至少一个元组获取所述处理后的第一输入数据，并将所述处理后的第一输入数据存储到所述第一输入缓存单元中；/n运算单元，用于从第一输入缓存单元和第二输入缓存单元中分别获取所述处理后的第一输入数据和所述处理后的第二输入数据后，根据微指令对所述处理后的第一输入数据和所述处理后的第二输入数据进行人工神经网络运算，以得到运算结果；/n其中，所述处理后的第二输入数据为处理后的输入神经元或者处理后的权值，且所述处理后的第一输入数据与所述处理后的第二输入数据不一致。/n