[发明专利]基于集成电路的激活函数处理方法、装置、设备及介质

说明书

本申请公开一种基于集成电路的激活函数处理方法。该方法包括：接收用户配置的精度等级；所述精度等级用于描述所述激活函数在自变量处的结果误差；根据所述精度等级，确定需要获取的所述激活函数在目标值处的泰勒展开式的项数；所述目标值基于所述自变量确定；根据所述项数，确定所述激活函数在所述自变量处的函数值。该方法支持用户对运算结果的精确度进行调整。

技术领域

本申请涉及数据处理技术领域，特别是涉及一种基于集成电路的激活函数处理方法、装置、设备及介质。

背景技术

随着计算机技术的发展，在人工智能领域(artificial intelligence，AI)，通常需要对大规模的循环神经网络(recurrent neural network，RNN)做硬件加速运算。例如：通过现场可编程逻辑门阵列(field programmable gate array，FPGA)为激活函数做加速运算。具体地，FPGA根据地址信息，在查找表(look-up-table，LUT)中确定该地址对应的内容，进而能够快速准确的获取激活函数的运算结果。

在不同的应用场景中，不同的机器学习模型对激活函数的运算结果的精度要求不同。而在传统的方案中，出于对处理器的面积、功耗等问题的考虑，仅通过一种激活函数的查表方式来确定该激活函数的运算结果。该运算结果是一个固定的值，无法对该运算结果的精确度进行调整。

基于此，业界亟需一种可调整激活函数的运算结果精确度的处理方法。

发明内容

为了解决上述技术问题，本申请提供了一种基于集成电路的激活函数处理方法。该方法支持用户对运算结果的精确度进行调整。

本申请实施例公开了如下技术方案：

第一方面，本申请提供了一种基于集成电路的激活函数处理方法，包括：

接收用户配置的精度等级；所述精度等级用于描述所述激活函数在自变量处的结果误差；

根据所述精度等级，确定需要获取的所述激活函数在目标值处的泰勒展开式的项数；所述目标值基于所述自变量确定；

根据所述项数，确定所述激活函数在所述自变量处的函数值。

可选的，所述根据所述精度等级，确定需要获取的所述激活函数在目标值处的泰勒展开式的项数，包括：

若所述精度等级为最低等级，则确定需要获取所述激活函数在目标值处的泰勒展开式的前1项。

可选的，所述根据所述项数，确定所述激活函数在所述自变量处的函数值，包括：

根据所述激活函数在所述目标值处的泰勒展开式的前1项，确定所述激活函数在所述目标值处的函数值，将所述函数值作为所述激活函数在所述自变量处的函数值。

可选的，所述根据所述精度等级，确定需要获取的所述激活函数在目标值处的泰勒展开式的项数，包括：

若所述精度等级为最高等级，则确定需要获取所述激活函数在目标值处的泰勒展开式的项数包括前Q项和余项，Q为大于等于1的整数。

可选的，所述根据所述项数，确定所述激活函数在所述自变量处的函数值，包括：

将所述前Q项的多项式之和与所述余项的近似值的和作为所述激活函数在所述自变量处的函数值。

可选的，所述根据所述精度等级，确定需要获取的所述激活函数在目标值处的泰勒展开式的项数，包括：

若所述精度等级介于最高等级和最低等级之间，则确定需要获取所述激活函数在目标值处的泰勒展开式的项数包括前W项，W为大于等于2的整数。

可选的，所述根据所述项数，确定所述激活函数在所述自变量处的函数值，包括：