[发明专利]词向量处理方法、装置以及电子设备

说明书

本说明书实施例公开了词向量处理方法、装置以及电子设备。所述方法包括：从词中划分出多个n元字母，基于n元字母的字母向量，对该词的词向量进行训练，其中，n元字母表征其对应的词的连续n个字母；其中，所述词为日耳曼语族语言的词。

技术领域

本说明书涉及计算机软件技术领域，尤其涉及词向量处理方法、装置以及电子设备。

背景技术

如今的自然语言处理的解决方案，大都采用基于神经网络的架构，而在这种架构下一个重要的基础技术就是词向量。词向量是将词映射到一个固定维度的向量，该向量表征了该词的语义信息。

在现有技术中，常见的用于生成词向量的算法是专门针对英文设计的。比如，谷歌公司的单词向量算法、微软公司的深度神经网络算法等。

基于现有技术，需要一种针对日耳曼语族语言的词向量生成方案。

发明内容

本说明书实施例提供词向量处理方法、装置以及电子设备，用以解决如下技术问题：需要一种针对日耳曼语族语言的词向量生成方案。

为解决上述技术问题，本说明书实施例是这样实现的：

本说明书实施例提供的一种词向量处理方法，包括：

对语料分词得到各词；

确定所述各词对应的各n元字母，所述n元字母表征其对应的词的连续n个字母；

建立并初始化所述各词的词向量，以及所述各词对应的各n元字母的字母向量；

根据所述词向量、所述字母向量，以及分词后的所述语料，对所述词向量和所述字母向量进行训练；

其中，所述词为日耳曼语族语言的词。

本说明书实施例提供的一种词向量处理装置，包括：

分词模块，对语料分词得到各词；

确定模块，确定所述各词对应的各n元字母，所述n元字母表征其对应的词的连续n个字母；

初始化模块，建立并初始化所述各词的词向量，以及所述各词对应的各n元字母的字母向量；

训练模块，根据所述词向量、所述字母向量，以及分词后的所述语料，对所述词向量和所述字母向量进行训练；

其中，所述词为日耳曼语族语言的词。

本说明书实施例提供的另一种词向量处理方法，包括：

步骤1，对语料分词得到各词；跳转步骤2；

步骤2，建立n元字母映射表，所述映射表包含所述各词与n元字母之间的映射关系，所述n元字母表征其映射的词的连续n个字母；以及，建立并初始化所述各词的词向量、所述各词映射的各n元字母的字母向量；跳转步骤3；

步骤3，遍历分词后的所述语料，分别将遍历到的词作为当前词w并对当前词w执行步骤4，若遍历完成则结束，否则继续遍历；

步骤4，遍历所述语料中为所述当前词w指定的各上下文词，分别对当前上下文词c执行步骤5，若遍历完成则继续步骤3的执行，否则继续遍历；

步骤5，按照如下公式计算当前词w与当前上下文词c的相似度：

其中，S(w)表示所述n元字母映射表中当前词w映射的至少部分n元字母的集合，q表示S(w)中的各n元字母，sim(w,c)表示当前词w与当前上下文词c的相似度；表示q的字母向量，表示w的词向量，表示c的词向量，⊙表示针对两个向量的特定运算，所述特定运算为点积运算、或者夹角余弦运算、或者欧式距离运算；β₁、β₂为权重参数；跳转步骤6；