[发明专利]新闻评论自动生成方法及其装置

权利要求书

1.新闻评论自动生成方法，其包括以下步骤：

步骤S1、收集多组目标特征新闻标题；

步骤S2、对收集到的上述新闻标题进行预处理来构造训练数据，将所述训练数据输入LSTM模型进行训练，从而形成新闻编码；

步骤S3、加入门控注意力机制，对上述新闻编码进行解码，从而生成新闻评论；

步骤S4、加入鉴别器，形成GAN模型，将LSTM模型生成的评论用鉴别器区别真假评论，LSTM模型作为生成器与鉴别器相互博弈，直至输出结果达到阈值；

所述门控注意力机制涉及的公式如下：

①

d_i＝v^Ttanh(W_hh_i+W_ss_j)

式(8)；

其中，d_i为计数符号为i的神经网络隐藏层向量,是一个参数向量，均为参数矩阵，h_i表示编码阶段结束后，所有评论词构成的一个最终隐藏向量，S_j表示解码阶段评论词的隐藏向量，tanh是非线性激活函数，a_i为利用新闻题目的当前隐层向量和所有隐层向量计算得到的注意力分数，d_k为计数符号为k的神经网络隐藏层向量；

②计算上下文向量h_c：

h_c＝∑a_ih_i 式(10)；

其中，

③然后使用一个门控函数，此函数值域在0-1，作为权重决定解码阶段的现在的隐藏向量：

m_j＝σ(Gs_j+b) 式(11)；

其中，m_j为网络中解码阶段的当前的隐层向量，σ(.)是sigmoid函数，b为偏置矩阵；

④计算新隐藏向量S_j：

s_j＝W_g[s_j-1,m⊙h_c]+b 式(12)；

其中，m为由当前解码阶段隐层向量各个m_j组成的向量，h_c为网络中代表新闻上下文信息的向量，即上下文向量；其中j取1、2、3...n。

2.根据权利要求1的所述新闻评论自动生成方法，其特征在于，步骤S1中，所述目标特征新闻标题要求使用编码方式相同，语言一致。

3.根据权利要求1的所述新闻评论自动生成方法，其特征在于，步骤S2中，对收集到的新闻标题数据进行预处理来构造训练数据，得到字符-数字的映射和数字-字符的映射，建立LSTM模型的输入one-hot向量，根据one-hot向量构建词嵌入表示。

4.根据权利要求1的所述新闻评论自动生成方法，其特征在于，步骤S3中，计算当前隐藏向量和新闻标题的所有隐藏向量之间的注意力分数，并进行归一化得到最终的注意力权重；通过使用新的隐藏向量，模型可以在生成每个词时强调标题的不同部分；这个过程在该解码阶段可以看到，模型不仅自适应地使用上下文信息，而且选择性地使用信息。

5.根据权利要求1的所述新闻评论自动生成方法，其特征在于，步骤S4中，所述博弈具体包括，生成器与鉴别器进行二元极小极大的博弈，最终达到纳什均衡。

6.根据权利要求1的所述新闻评论自动生成方法，其特征在于，步骤S4中，选择CNN卷积神经网络作为鉴别器，利用策略梯度强化学习进行对抗训练，在对抗训练开始时，使用极大似然估计对训练集上的评论生成器进行预训练，直到生成器达到收敛为止。