[发明专利]一种关键词抽取方法及装置和编码器和解码器

说明书

本申请公开了一种关键词抽取方法及装置和编码器和解码器，通过利用已经生成的关键词信息动态修改原始文档的句法图结构的方式，将关键词生成过程即解码信息传递到了编码处理部分，从而同时解决了建模关键词关系和获得更好地语义表示这两个问题，提升了文档编码的效果。进一步地，通过配合多样性推断过程，获得了更加准确和多样的关键词序列。也就是说，提高了关键词生成的准确率，减少了产生的重复关键词、增多了产生的关键词总数。

技术领域

本申请涉及但不限于信息处理技术，尤指一种关键词抽取方法及装置和编码器和解码器。

背景技术

关键词抽取是在给定一段较长文本的情况下，通过某些手段提取出文本所要表达的核心内容，从而在大量信息中准确、快速地提取出关键信息。这些关键词可以是具有特定意义的实体、也可以是一些基础概念或者事件。抽取出的关键词可以采用关键词序列来表示，关键词序列可以按照置信度依次列出，置信度越高其排序越靠前。抽取出的关键词序列可以被应用到如游记、笔记、新闻等不同领域文章的主题标签标注，以及文献检索、推荐系统中。

相关技术中，一种方式是采用词频-逆向文件频率(TF-IDF，Term Frequency-Inverse Document Frequency)、用于文本的基于图的排序算法(TextRank)等方法来抽取关键词。这种方式大致包括：从原文中依据一定的规则选择部分短语作为关键词候选，而后通过有监督或无监督的方法训练一个短语排序模型来进行关键词选择。这种方式过于依赖人工编写的规则，而且总体效果不够好。

另一种方式是基于序列到序列模型抽取关键词，但是，这种方式面临着两个问题：1)如何产生一个足够好的文档表示，以反映出原始文档中对关键词抽取最重要的关键语义信息；2)如何建模关键词集合中关键词间的关系，即如何更好地学习条件概率P(y_n|y_n)，其中，y_n是当前需要产生的关键词，y_n是已经生成的关键词序列。其中，序列到序列模型是一种起源于神经机器翻译领域的神经网络生成模型框架，适用于输入和输出都是文本序列的问题场景，包括编码器和解码器两个部分；编码器用于将输入文本序列编码为向量语义表示(本文中也称为文档表示)，解码器则通过注意力机制等方式与编码器输出进行交互，依次产生输出序列的每个词。

发明内容

本申请提供一种关键词抽取方法及装置，能够提升文档编码效果，从而产生准确的关键词。

本发明实施例提供了一种关键词抽取方法，包括：

根据待处理文档的句法信息和当前时刻已生成的关键词信息进行编码处理，获取当前时刻的文档表示信息；

根据所述当前时刻的文档表示信息和所述当前时刻已生成的关键词信息进行解码处理，获取下一时刻的关键词信息。

在一种示例性实例中，所述待处理文档的句法信息通过如下方式获得：

从所述待处理文档中抽取出一个或多个句法树以构成句法树集合；

根据所述句法树集合，为所述待处理文档构建句法图，所述句法图的节点为所述待处理文档中的词，所述句法图的有向边为所述待处理文档中词与词之间的依赖边。

在一种示例性实例中，所述根据待处理文档的句法信息和当前时刻已生成的关键词信息进行编码处理，获取当前时刻的文档表示信息，包括：

根据所述当前时刻已生成的关键词信息更新所述待处理文档的句法图信息，获得当前时刻所述句法图中有向边的边权重；

根据原始文档中每个词的词表示向量更新所述句法图中节点表示向量；

根据所述节点表示向量和有向边的边权重得到当前时刻的文档表示信息。