[发明专利]一套基于Sequence2Sequence的自动生成新闻标题的软件

摘要

本发明专利公开了一套基于Sequence2Sequence的自动生成新闻标题的软件。软件包括模型训练和模型使用两部分。总体而言无论是模型训练还是模型使用，都需要数据清洗和分类。每个分类单独训练，并且每个分类训练好的模型需要单独保存，在新闻标题推理的过程中，首先需要将新闻分类，然后用对应的模型进行推理。简单来说Sequence2Sequence的基本结构主要由编码器(Encoder)和解码器(Decoder)组成，编码和解码都由神经网络实现。编码器负责将输入的原文本编码成一个向量(context)，该向量是原文本的一个表征，包含了文本背景。而解码器负责从这个向量提取重要信息、加工剪辑，生成新闻标题。传统的Seq2Seq模型对输入序列X缺乏区分度，因此，本发明专利引入了Attention Mechanism来解决这个问题。