[发明专利]一种用于神经网络数据流计算架构的1D向量计算单元

说明书

本发明公开了一种用于神经网络数据流计算架构的1D向量计算单元，包含可重构配置单元和首尾相连的线性模块、非线性模块，其中，所述可重构配置单元用于根据外部输入输出可重构配置信息，将所述线性模块、所述非线性模块配置成某种功能算子，所述线性模块用于实现一维线性函数计算；所述非线性模块用于实现一维非线性函数计算。本发明提出的可重构1D向量计算单元，通过可重构配置单元的配置功能，将线性模块和/或非线性模块配置成为某种功能算子，实现多种1D向量计算，从而实现神经网络数据的高效计算。

技术领域

本发明涉及神经网络张量处理器的计算架构领域，尤其涉及一种用于神经网络数据流计算架构的1D向量计算单元。

背景技术

在现有的通用处理器中(如CPU)，非线性函数通常基于通用运算单元，使用基础运算步骤(例如乘法和加法等)，通过某种近似方法计算得到，计算过程复杂且周期长，计算效率极低。

在专用的人工智能处理器中，非线性函数的计算通常是以查找表(LUT)的方式来实现，也即把非线性函数的y数值直接存储在以x数值为索引的查找表中。

上述查找表方法存在明显缺点：局限性比较大，可以实现的非线性函数较少；实现资源使用较大，为了较高精度需要使用较多的查找表存储器存储更多的y值；实现的精度误差较大，LUT是以离散点的坐标来查找对应的函数值，如果LUT数量没有足够大，查找的函数值将会有比较大的误差。

发明内容

有鉴于现有技术的上述缺陷，本发明的目的是提供一种用于神经网络数据流计算架构的1D向量计算单元，实现神经网络数据的高效计算。

为实现上述目的，本发明提供了一种用于神经网络数据流计算架构的1D向量计算单元，包含可重构配置单元和首尾相连的线性模块、非线性模块，其中，所述可重构配置单元用于根据外部输入输出可重构配置信息，将所述线性模块、所述非线性模块配置成某种功能算子，所述线性模块用于实现一维线性函数计算；所述非线性模块用于实现一维非线性函数计算。

进一步地，所述线性计算模块包括乘法单元、加减法和比较单元、多阈值relu单元以及第一精度转换单元；

所述乘法单元、加减法和比较单元、多阈值relu单元以及第一精度转换单元通过可重构配置信息进行配置，从而决定每个模块是否参与计算以及参与计算的数据来源；

所述乘法单元用于根据所述可重构配置信息完成任意位宽的有符号二进制补码乘法；

所述加减法和比较单元用于根据所述可重构配置信息及所述乘法单元的计算结果完成加/减法运算和/或最大/小值运算；

所述多阈值relu单元用于根据所述可重构配置信息及所述加减法和比较单元的计算结果完成一种relu计算；

所述第一精度转换单元用于读取可重构配置单元的移位寄存器值，根据所述移位寄存器值对所述多阈值relu单元输出的结果进行精度转换和位宽截断。

进一步地，所述多阈值relu单元完成的计算包括：relu计算、relu6计算、Prelu计算及Leaky relu计算，其中，relu计算的实现是通过判断输入数值与0的大小关系，小于0，则该多阈值relu单元的输出为0，大于0，则为输入数值本身；relu6计算则是在relu计算的实现基础上，多加了一个判断大于6的条件，如果大于6则单元输出结果为6；Prelu计算的实现则是结合乘法单元，判断输入数值与0的大小关系，小于0，则乘以一个系数，然后通过选通信号，使其输出值等于输入值，完成prelu计算；Leaky relu计算的实现则是结合乘法单元，乘以一个固定系数，然后通过选通信号，使其输出值等于输入值，完成Leaky relu计算。

进一步地，所述非线性模块采用以查找表结合分段函数拟合的方式来实现一维非线性函数的计算。