[发明专利]一种词语的词向量的生成方法、装置及设备

说明书

本说明书提供一种词语的词向量的生成方法、装置及设备，所述方法包括：将待处理语料进行分词后，分别确定出各个分词后的词语的n元笔画和m元注音字符，进一步初始化各个词语的词向量、笔画向量、注音字符向量，基于词向量、笔画向量、注音字符向量计算出各个词语与上下文词语之间的综合相似度以及与负样例词语之间的综合相似度，基于计算出的综合相似度对各个词语的词向量、笔画向量、注音字符向量进行优化调整。笔画和注音分别表征了词语两个不同方向的特征，将笔画和注音特征相融合，综合了词语尤其是中文词语的特有特征进行词向量的训练优化。

技术领域

本说明书属于计算机技术领域，尤其涉及一种词语的词向量的生成方法、装置及设备。

背景技术

随着计算机技术的发展，使用计算机技术处理自然语言的是一项重大突破。计算机和人不同，它很难理解人类语言的语义，在利用计算机处理计算机语言时，需要将自然语言转换为计算机能够识别的语言。一般可以将自然语言文本先进行分词，再将分词获得的各个词语转换成对应的词向量，以便计算机进行后续对自然语言进行分析。如：可以通过词向量计算两个词语之间的综合相似度，进一步确定两个词语的语义关系。因此，词向量算法的准确度就决定了计算机语义理解的能力，而业界研究较多的是英文词向量，中文词向量算法的技术相对比较落后。

发明内容

本说明书实施例的目的在于提供一种词语的词向量的生成方法、装置及设备，提高了词向量确定的准确性。

一方面本说明书实施例提供了一种词语的词向量的生成方法，包括：

对待处理语料进行分词获得所述待处理语料的分词；

确定所述分词中各词语的n元笔画和m元注音字符，其中，所述n元笔画表征其对应的词语的连续n个笔画，所述m元注音字符表征对应的词语的连续m个注音字符，n、m为正整数；

初始化所述分词中各个词语的词向量、所述各个词语对应的n元笔画的笔画向量以及所述各个词语对应的m元注音字符对应的注音字符向量；

根据所述分词中各个词语对应的词向量、笔画向量、注音字符向量，依次确定所述分词中各个词语与对应的上下文词语之间的综合相似度、以及所述分词中各个词语与负样例词语之间的综合相似度；其中，所述综合相似度基于词向量相似度、笔画向量相似度、注音向量相似度确定；

根据所述分词中各个词语与对应的上下文词语之间的综合相似度以及所述分词中各个词语与负样例词语之间的综合相似度，调整各个词语的对应的词向量、笔画向量、注音字符向量，获得所述分词中各个词语的目标词向量。

另一方面，本说明书提供了一种词语的词向量的生成装置，包括：

分词模块，用于对待处理语料进行分词获得所述待处理语料的分词；

特征提取模块，用于确定所述分词中各词语的n元笔画和m元注音字符，其中，所述n元笔画表征其对应的词语的连续n个笔画，所述m元注音字符表征对应的词语的连续m个注音字符，n、m为正整数；

向量初始化模块，用于初始化所述分词中各个词语的词向量、所述各个词语对应的n元笔画的笔画向量以及所述各个词语对应的m元注音字符对应的注音字符向量；

相似度确定模块，用于根据所述分词中各个词语对应的词向量、笔画向量、注音字符向量，依次确定所述分词中各个词语与对应的上下文词语之间的综合相似度、以及所述分词中各个词语与负样例词语之间的综合相似度；其中，所述综合相似度基于词向量相似度、笔画向量相似度、注音向量相似度确定；

向量优化模块，用于根据所述分词中各个词语与对应的上下文词语之间的综合相似度以及所述分词中各个词语与负样例词语之间的综合相似度，调整各个词语的对应的词向量、笔画向量、注音字符向量，获得所述分词中各个词语的目标词向量。