[发明专利]一种基于线性分段的softmax硬件实现方法

权利要求书

1.一种基于线性分段的softmax硬件实现方法，其特征在于，具体包括以下步骤：

对源数据进行读取和分发；

通过计算获取源数据中的最大值；

结合查找表和线性分段拟合方法，计算源数据的自然指数；

并行输入源数据的自然指数并进行累加操作；

结合除法计算得到最终的输出结果；

接收输出的结果，并按顺序存入双倍速率同步动态随机存储器中；

所述自然指数的获取方式进一步为：

输入获取的新数据；所述新数据为去除所述最大值的源数据；

根据整数位宽参数，将所述新数据拆分为整数部分和小数部分；

对所述新数据进行整数部分的e指数结果查找和小数部分区间重映射；

查找所述小数部分的线性分段参数；

计算所述小数部分的e指数结果；

计算整数部分e指数结果和小数部分e指数结果乘积，对乘法结果进行移位还原；

所述e指数计算包括整数部分和小数部分；

所述整数部分采用直接查找；

所述小数部分采用分段拟合的方式。

2.根据权利要求1所述的一种基于线性分段的softmax硬件实现方法，其特征在于，

对所述源数据进行读取的过程进一步为：从双倍速率同步动态随机存储器中读取源数据，并按照顺序存入存储阵列源数据区的内存库中；

对所述源数据进行分发的过程进一步为：从所述内存库中取出一个数，进行并行计算。

3.根据权利要求1所述的一种基于线性分段的softmax硬件实现方法，其特征在于，

通过配置比较器以及将计算转化至负数域，比较所述源数据的大小，获取所述源数据中的最大值。

4.根据权利要求1所述的一种基于线性分段的softmax硬件实现方法，其特征在于，

将区间压缩算法应用于所述e指数计算小数部分查找表参数压缩，具体实现方法如下：

；

；

式中，表示自然指数运算的输入；Q表示整数值；表示小数值；

同时在此基础上优化区间算法，将查找表参数进一步减少，具体实现方法如下：

；

式中，表示自然指数运算的输入；Q表示整数值；表示小数值。

5.根据权利要求1所述的一种基于线性分段的softmax硬件实现方法，其特征在于，

采用定点数实现，且小数点位置可配置，可根据输入特征选择合适的计算精度。

6.根据权利要求1所述的一种基于线性分段的softmax硬件实现方法，其特征在于，

所述除法计算分为一次求倒计算和至少两次除法计算。

7.一种基于线性分段的softmax硬件实现系统，用于实现权利要求1~6任意一项方法，其特征在于，具体包括：

控制器，被设置为实现softmax运算所需的源数据的读取和分发，以及运算结果的存储；

最大值模块，被设置为转换接收到的数据至负数域，并计算获得输入数据中的最大值；

自然指数模块，被设置为根据查找表和线性分段拟合方法，计算源数据的自然指数；

加法树模块，被设置为并行的将所有的自然指数计算结果进行求和；

除法模块，被设置为计算每个自然指数计算结果与累加结果的比。

8.根据权利要求7所述的一种基于线性分段的softmax硬件实现系统，其特征在于，

所述控制器进一步包括：有限状态机FSM、源数据地址产生模块、写结果地址产生模块、源数据分发模块、结果分发功能模块；

所述最大值模块由至少两个多路比较器构成，通过级联后得出数据的最大值；

所述自然指数模块采用流水线设计，流水深度为五级；第一级流水线进行数据整数部分和小数部分的拆分，第二级流水线进行整数部分数据查找和小数部分区间重映射，第三级流水线查找小数部分的线性分段参数并经过一次加法和乘法运算得出小数部分自然指数值，第四级流水线将整数部分结果与小数部分结果相乘，第五级流水线，将乘法结果移位还原；

所述加法树模块由至少两组级联的加法器组成；

所述除法模块首先求出累加结果的倒数，然后逐一和每个自然指数结果做乘法计算。