[发明专利]一种LSTM神经网络训练方法及装置

权利要求书

1.一种LSTM神经网络训练方法，包括由无标注文本生成的训练数据，其特征在于：将无标注文本中的关键词处理后根据关键词对训练数据进行加权，提升训练数据对特征信息的携带能力，将加权后的训练数据用于LSTM神经网络训练的方法包括以下步骤：

S1、将无标注文本作为训练文本，对训练文本进行预处理；

S2、对预处理后的训练文本进行识别，生成训练文本的关键词；

S3、对训练文本中的词语进行编码，得到高维空间连续词向量，对关键词进行同样的编码得到关键词向量；

S4、将关键词向量添加至对应的词向量对词向量进行加权得到最终的训练数据；

S5、将最终的训练数据输入LSTM神经网络进行训练。

2.根据权利要求1所述的一种LSTM神经网络训练方法，其特征在于：所述步骤S1中对训练文本进行预处理的方法包括清洗、分词、去停用词中的至少一种。

3.根据权利要求1所述的一种LSTM神经网络训练方法，其特征在于：所述步骤S2中的关键词包括实体关键词、关系关键词和事件关键词。

4.根据权利要求3所述的一种LSTM神经网络训练方法，其特征在于：所述步骤S3中的关键词线路包括分别与实体关键词、关系关键词和事件关键词对应的实体向量、关系向量和事件向量。

5.根据权利要求4所述的一种LSTM神经网络训练方法，其特征在于：所述步骤S4中将关键词向量添加至对应的词向量对词向量进行加权包括实体增强加权、关系增强加权和事件增强加权。

6.根据权利要求1所述的一种LSTM神经网络训练方法，其特征在于：所述步骤S3中对训练文本中的词语进行编码和对关键词进行同样的编码的编码方法为先进行one-hot编码再进行word2vector词向量转化。

7.根据权利要求1所述的一种LSTM神经网络训练方法，其特征在于：所述LSTM神经网络进行训练的方法包括前向传播和沿时反向传播算法。

8.根据权利要求7所述的一种LSTM神经网络训练方法，其特征在于：所述步骤S5中将最终的训练数据分批逐次输入LSTM神经网络进行训练直到满足训练停止条件。

9.一种LSTM神经网络训练方法及装置，其特征在于：包括：

存储器，用于存储可执行指令；

多核处理器，用于执行所述存储器中存储的可执行指令，实现如权利要求1所述的LSTM神经网络训练方法。