[发明专利]一种基于文本语义增强的主题提示式关键词提取方法

说明书

本发明公开了一种基于文本语义增强的主题提示式关键词提取方法。本发明首先收集某个领域的短文本数据集，通过分句模块将文本进行分句，对每个句子进行文本增强构造相似文本对。其次将相似文本对进行合并得到增强文本，对增强文本进行分词，将分词后的文本提取一个文本主题。然后将文本主题向量化，再匹配一个初始化的既定主题，既定主题通过主题模板生成模块生成对应的主题提示模板。最后主题提示模板与增强文本一起送入文本向量生成模块得到每个文本的向量表示；找到与文本向量最相似的几个词语，将最相似的词语识别为最能描述整个文本的词。本发明将文本增强技术以及提示学习融入到关键词抽取中，提升了对短文本关键词抽取能力。

技术领域

本发明涉及人工智能自然语言处理技术领域，尤其是涉及一种文本语义增强的关键词提取方法。

背景技术

人工智能的发展给人们的生活带来了许多的便利，其中，自然语言处理领域也跟随着人工智能技术的变革逐渐影响着人们的方方面面；尤其在当下这个快节奏的生活里，对于文本的关键词提取技术渐渐深入人心。关键词提取就是从文本里面把跟这篇文章意义最相关的一些词语抽取出来，在文献检索、自动文摘、文本聚类和文本分类等方面有着重要的应用。

关键词提取算法一般分为有监督和无监督两类：

有监督的关键词提取方法主要是通过分类的方式进行，通过构建一个较为丰富和完善的词表，然后判断每个文档与词表中每个词的匹配程度，以类似打标签的方式，达到关键词提取的效果。优点是精度较高，缺点是需要大批量的标注数据，人工成本过高，并且词表需要及时维护。

相比较而言，无监督的方法对数据的要求低，既不需要一张人工生成且需要持续维护的词表，也不需要人工标注语料辅助训练。目前比较常用的关键词提取算法都是基于无监督算法。如TF-IDF算法，TextRank算法和主题模型算法(包括LSA，LSI，LDA等)。

但随着社交媒体、新媒体、自媒体的快速发展，我们目前面临全新的文本数据。与传统媒体的数据不同，新媒体与社交媒体的数据往往表现在更短的文本长度，但目前大多数关键词抽取方法都基于长文本的模型，在文本长度较短的新媒体数据上的表现差强人意。同时一些基于预训练语言模型的关键词抽取技术都是所有类型的文本数据进行预训练，但是迁移到下游任务时对一些对垂直领域的数据，如对体育新闻，政治时报等没有很强的鲁棒性，往往表现不佳。这是因为预训练时所学习到的主题、关键词分布是基于整体数据集的，抽取出的关键词比较宽泛，跟下游任务数据集的关键词分布有不少偏差。

发明内容

本发明提供了一种基于文本语义增强的主题提示式关键词提取方法，该方法能有效解决短文本关键词抽取以及预训练模型难以拟合下游任务数据的难题，为后续的工程应用提供新的思路。

为了解决上述问题，本发明包含以下步骤：

步骤一，收集某个领域的短文本数据集，可以是短文评论，文章标题等。

步骤二，通过分句模块将文本进行分句，再通过文本语义增强模块对每个句子进行文本增强构造相似文本对。

步骤三，将相似文本对进行合并得到增强文本，再使用分词模块对增强文本进行分词。

步骤四，将分词后的文本通过主题建模模块提取一个文本主题。

步骤五，通过主题匹配模块将文本主题向量化，再匹配一个初始化的既定主题。

步骤六，既定主题通过主题模板生成模块生成对应的主题提示模板。

步骤七，主题提示模板与增强文本一起送入文本向量生成模块得到每个文本的向量表示。

步骤八：使用关键词搜索模块找到与文本向量最相似的几个词语，将最相似的词语识别为最能描述整个文本的词。