[发明专利]一种基于LSTM模型的网络舆情预警方法

权利要求书

1.一种基于LSTM模型的网络舆情预警方法，其特征在于包括以下步骤：

步骤1：网络舆情数据集下指标体系的构建。以网络舆情的主题属性、舆情来源、舆情内容要素、舆情受众、舆情传播扩散为一级指标构建网络舆情预警指标体系，使用网络舆情数据集结合末级指标具体的量化表达式计算出各指标的量化值。

步骤2：网络舆情数据预处理过程。利用本次发明中的网络舆情数据集对各指标进行预处理即使用该数据所包含的字段初始化指标体系的各末级指标值。对于搜索程度、声像资料数量、累计浏览数量、累计评论数量、累计转载数量、平均访问停留时长等定量指标可以通过数据集中相应的字段值结合步骤1中的量化公式直接计算，其中主题类型、发布者影响力、是否有谣言、舆情信息内容敏感程度等属于定性指标，通过设计调查问卷初始化，主题内容属于长文本数据使用词向量表示。将网络舆情预警结果分为一般、较重、严重、特别严重4个等级，将网络舆情数据集针对每类选出1500个样本，构成一个包含6000个样本的数据集，使用此数据集来训练优化本发明构建的Re-LSTM模型。

步骤3：Re-LSTM模型构建过程。预处理之后的数据x_t与前一个隐藏层的输出h_t-1作为遗忘门的输入，其输出为f_t，是一个0到1之间的数字，0代表完全舍弃单元状态中的信息，1代表完全保留单元状态中的信息。其次x_t和h_t-1经过单元的输入门，通过sigmoid函数来控制需要更新的参数值，并结合softsign层产生一个新的候选状态值由于softsign函数具有反对称、去中心、可微分的特点，其更平坦的曲线与更慢的下降导数表明它可以更高效的学习，因此采用softsign激活函数替换以往的tanh激活函数，更好的解决梯度消失问题。输入门的表达式为i_t，最后通过i_t和创建一个新的状态值向量C_t。经过单元的输出门o_t结合单元状态值C_t得出隐藏层单元的输出值h_t。最后根据h_t计算出Re-LSTM模型的输出值进而构造Re-LSTM模型的均方误差函数MSE。为了解决LSTM模型过拟合问题，采用正则化方法约束网络中的输入权重处理MSE函数，L₁范数正则化可使模型具有稀疏性，从而控制模型的过拟合问题，L₂范数正则化可以使模型抗扰动能力强，因此结合L₁范数和L₂范数优点将L₁范数和L₂范数线性组合作为一个正则项加入MSE函数，进而得到Re-LSTM模型的目标函数E，最后通过Adma算法最小化目标函数及更新模型参数进而使网络最优。

步骤4：实际数据应用过程。由于Adma算法能够基于训练数据迭代地更新神经网络权重，因此选用Adma算法最小化目标函数并不断更新模型中的参数，进而使网络最优。待Re-LSTM模型训练完成之后，将测试数据作为该模型的输入，则Re-LSTM模型的输出值即为网络舆情的预警结果。

2.根据权利要求1所述的一种基于LSTM模型的网络舆情预警方法，其特征在于：所述步骤3中遗忘门输出f_t计算公式为：

f_t＝σ((||W_f||¹+||W_f||²).[h_t-1，x_t]+b_f)

其中σ表示sigmoid激活函数，W_f表示遗忘门权重，b_f表示遗忘门偏置。