[发明专利]一种词向量处理方法、装置及设备

说明书

本发明提供一种词向量处理方法、装置及设备，涉及通信技术领域。该方法包括：确定目标词语；将所述目标词语作为检索对象，通过搜索引擎进行检索，得到检索结果；根据所述检索结果，确定所述目标词语的关联词语；根据所述关联词语的词向量，确定所述目标词语的目标词向量。本发明的方案，解决了词语不被语料库包含，无法确定其向量信息的问题。

技术领域

本发明涉及通信技术领域，特别是指一种词向量处理方法、装置及设备。

背景技术

词向量(word embedding)，是目前表示词语特征的最常用方式。词向量利用机器学习技术将语料库中的每个词语表示为固定长度的实值向量，从而得到词语的特征表示。目前，词向量已经在语义网、信息检索、数据挖掘、信息集成、知识管理、文本分类、语音识别、词义消歧等领域广泛应用。通过词向量算法训练词语的向量表示时，以一个词语在语料库中所有出现位置的上下文词语集合作为神经网络的输入，经过不断迭代得到中心词的向量化表达。

然而，现有的词向量的训练需要基于预先设定的语料库(如wiki百科语料库、sogou语料库等)，如果一个词语不被语料库包含，在训练后的词向量模型中将不包含该词语的向量信息。

发明内容

本发明的目的是提供一种词向量处理方法、装置及设备，以解决词语不被语料库包含，无法确定其向量信息的问题。

为达到上述目的，本发明的实施例提供一种词向量处理方法，包括：

确定目标词语；

将所述目标词语作为检索对象，通过搜索引擎进行检索，得到检索结果；

根据所述检索结果，确定所述目标词语的关联词语；

根据所述关联词语的词向量，确定所述目标词语的目标词向量。

可选的，所述确定目标词，包括：

将目标文本进行分词，得到一个或多个词语；

基于基础词向量模型，对所述一个或多个词语的词向量进行查询；

在查询结果表明所述基础词向量模型不包括当前词语的词向量的情况下，将所述当前词语作为目标词语。

可选地，所述根据所述检索结果，确定所述目标词语的关联词语，包括：

在所述检索结果中，获取M个结果项，其中M为大于或等于1的整数；

在所述M个结果项的文档标题中，确定非重复的词语；

将所述非重复的词语中的N个词语作为所述目标词语的关联词语，其中N为大于或等于1的整数。

可选地，所述将所述非重复的词语中的N个词语作为所述目标词语的关联词语，包括：

获取所述非重复的词语中的每个词语与所述目标词语的相关性信息；

基于所述相关性信息得到N个所述目标词语的关联词语。

可选地，所述相关性信息包括相关性评分；

所述获取所述非重复的词语中的每个词语与所述目标词语的相关性信息，包括：

通过公式Score(w，v)＝m_v/n_v，计算所述相关性评分Score(w，v)；其中，v表示所述非重复的词语中的待评分词语；w表示所述目标词语；m_v表示所述M个结果项中，包括v的结果项的数量；n_v表示v在语义词典中词义的数量；

所述基于所述相关性信息得到N个所述目标词语的关联词语，包括：