[发明专利]用于执行LSTM神经网络运算的装置和运算方法

权利要求书

1.一种用于执行LSTM神经网络运算的装置，其特征在于，包括：

数据处理模块，用于从数据缓存单元中获取所述输入数据、权值和偏置，通过计算LSTM神经网络运算中的忘记门、输入门、输出门以及待选状态单元的向量值，来进行所述LSTM神经网络运算的向量运算，得到所述数据处理模块中的输出值，并将所述输出值写回到数据缓存单元。

2.根据权利要求1所述的装置，其特征在于，所述数据处理模块还用于将所述数据缓存单元中的权值和输入数据分割成若干份，从所述数据缓冲单元读取一份权值和输入数据计算得到部分和，再从所述数据缓冲单元中取出之前得到的部分和，对部分和进行向量加，得到新的部分和，送回到所述数据缓冲单元中，直到待所有输入数据送入到数据处理模块一次后；

其中所述部分和的初始值为偏置值；每份的权值或输入数据的数量与所述数据处理模块中向量运算单元运算的数量相同。

3.根据权利要求2所述的装置，其特征在于，所述数据处理模块还包括数据运算子模块，所述数据运算子模块包括非线性函数转换部件，用于待数据处理模块获取到所有输入数据后，得到的部分和即为神经元对应的净激活量，所述数据运算子模块中的非线性函数转换部件用于根据非线性函数tanh或sigmoid函数变换得到神经元的输出值，以完成所述输入门、忘记门、输出门以及待选状态单元的计算。

4.根据权利要求3所述的装置，其特征在于，所述向量非线性函数转换部件通过查表方法进行函数表示。

5.根据权利要求3所述的装置，其特征在于，所述数据处理模块还包括数据依赖判别子模块，用于判断当前忘记门、输入门以及待选状态单元向量值计算是否完成，若完成，则进行新的状态单元的计算。

6.根据权利要求5所述的装置，其特征在于，所述数据运算子模块还包括：

向量点乘部件，用于获取旧的状态单元和忘记门向量值，并根据旧的状态单元和忘记门向量值得到部分和，送回到数据缓存单元中；

向量点乘部件，还用于获取待选状态单元和输入门的值，并根据待选状态单元和输入门的值得到部分和，送回到数据缓存单元中；

所述数据处理模块用于从所述数据缓存单元中获取部分和，所述数据运算子模块还包括向量求和子模块，用于根据所述部分和，得到更新后的状态单元，然后，送回到数据缓存单元中，同时，所述数据运算子模块中的非线性变换部件用于将数据处理模块中的更新后的状态单元进行变换。

7.根据权利要求6所述的装置，其特征在于，所述数据依赖判别子模块还用于判断当前更新后的数据状态单元的非线性变换和输出门是否计算完成，如果计算完成，数据运算子模块中的向量点乘部件用于将输出门与带更新后的数据状态单元非线性变换后的向量进行计算，得到最终的输出值，将输出值写回到数据缓存单元中。

8.根据权利要5所述的装置，其特征在于，所述数据处理单元还包括数据处理控制子模块，所述数据依赖判别子模块还用于对当前的运算是否存在数据依赖进行判断；

对于存在数据依赖关系的运算，数据处理控制子模块首先会用于控制数据依赖判别子模块对当前的运算是否存在数据依赖进行判断，如果存在数据依赖关系，数据处理控制子模块用于使数据运算子模块中插入空操作，等到数据依赖关系解除之后，再控制数据运算子模块进行数据运算；

数据依赖判别子模块受数据处理控制子模块控制，用于检查数据运算子模块中是否存在数据依赖关系；如果下次进行的操作需要用到当前尚未运算完成的值，则说明当前存在数据依赖，否则，则不存在数据依赖；

数据运算子模块受数据处理模块子模块的控制，用以完成LSTM神经网络运算过程中的数据处理。