[发明专利]可重构算子结构、计算方法和硬件架构

说明书

本发明提供一种可重构算子结构、计算方法和硬件架构，包括参数存储单元，用于存储各激活函数的各分段近似函数的计算参数，分段近似函数为高次函数；数据比较单元，用于从各个激活函数中的目标激活函数的各分段近似函数的各输入范围中，选取输入数据所属的目标范围；控制单元，用于从参数存储单元中选取目标范围对应分段近似函数的计算参数；高次函数计算结构，用于基于目标范围对应分段近似函数的计算参数，确定输入数据在目标激活函数下的计算结果。本发明提供的可重构算子结构、计算方法和硬件架构，因其结构和计算任务简单，计算效率更高。且各种激活函数之间的变换十分简便，具备适应各种不同激活函数的可重构性。

技术领域

本发明涉及计算机技术领域，尤其涉及一种可重构算子结构、计算方法和硬件架构。

背景技术

激活函数作为神经网络和深度学习算法中不可或缺的部分，其计算直接影响到整个算法的执行效率。例如在VLSI(Very Large Scale Integration，超大规模集成电路)上实现CNN(Convolutional Neural Network，卷积神经网络)时，必须要实现激活函数层。

目前，基于人工智能芯片的激活函数计算多在软件层面上设计实现，而激活函数中通常包含大量的非线性运算，例如sigmoid函数中涉及到指数运算，在软件层面上进行非线性运算，会产生相当庞大的计算量，占用大量的计算资源和计算时间，导致计算速度慢、功耗大的问题。软件层面上的通用设计方式已经无法满足人工智能发展对于速度、功耗的追求，因此亟需一种新的实现方式来提供激活函数的计算效率并降低其计算功耗。

发明内容

本发明提供一种可重构算子结构、计算方法和硬件架构，用以解决现有技术中通过软件层面计算激活函数存在速度慢、功耗大的问题。

本发明提供一种可重构算子结构，包括：

参数存储单元，用于存储各个激活函数的各个分段近似函数的计算参数，所述分段近似函数为高次函数；

数据比较单元，用于从各个激活函数中的目标激活函数的各个分段近似函数的各个输入范围中，选取输入数据所属的输入范围作为目标范围；

控制单元，所述控制单元分别与所述参数存储单元和所述数据比较单元连接，用于从所述参数存储单元中，选取出所述目标激活函数的所述目标范围对应分段近似函数的计算参数；

高次函数计算结构，所述高次函数计算结构与所述参数存储单元连接，所述高次函数计算结构为运算所述高次函数的硬件结构，用于基于所述目标范围对应分段近似函数的计算参数，确定所述输入数据在所述目标激活函数下的计算结果。

根据本发明提供的一种可重构算子结构，所述高次函数为对拆分函数进行多次迭代的形式；

所述高次函数计算结构包括计算单元，所述计算单元用于运算所述拆分函数；

所述计算单元的输出端与所述计算单元的参数输入端连接，所述参数输入端输入的下一次拆分函数计算的输入参数包括所述输出端输出的当前次拆分函数的计算结果。

根据本发明提供的一种可重构算子结构，还包括：

范围存储单元，所述范围存储单元与所述数据比较单元连接，用于存储各个激活函数的各个分段近似函数的各个输入范围。

根据本发明提供的一种可重构算子结构，所述高次函数计算结构还包括输入寄存器、参数寄存器、数据选择器和计算单元寄存器；

其中，所述输入寄存器的输入为所述输入数据，所述输入寄存器的输出端与所述计算单元的变量输入端连接；

所述参数寄存器的输入为所述计算参数，所述参数寄存器的输出端直接与所述计算单元的参数输入端连接，或通过所述数据选择器与所述计算单元的参数输入端连接；