[发明专利]一种结合词向量多特征融合的新词发现方法

权利要求书

1.一种结合词向量多特征融合的新词发现方法，其特征在于，包括下述步骤：

统计自然语言特征得分计算：对语料进行特征标注，遍历所有属性对，计算属性对的互信息矩阵和自信息矩阵，计算所有候选特征的属性对得分；

基于词向量特征得分计算：对词向量进行k-means聚类，根据词向量对应的词典，对语料中所有分词找到对应的词向量，进而找到对应的最近邻类中心向量，并找出该类中心向量对应的词作为词向量特征属性，遍历所有词向量特征属性，计算词向量特征属性对的自信息矩阵和互信息矩阵，计算所有词向量特征属性对的得分；

对所有候选特征属性对的得分配置权重系数后求和，通过逻辑回归优化权重系数，计算总得分；

初始化权重系数并设置新词阈值，总得分超过新词阈值时，设定随机概率提取候选词对对应的得分向量到样本集合，对样本集合进行标记得到标签集合；

基于随机梯度下降SGD更新权重系数，迭代训练直至损失函数收敛，获得最终的权重系数；

重新计算所有候选词对的总得分，输出超过新词阈值的新词。

2.根据权利要求1所述的结合词向量多特征融合的新词发现方法，其特征在于，所述对语料进行特征标注，所述特征包括分词、词性和依存句法关系。

3.根据权利要求1所述的结合词向量多特征融合的新词发现方法，其特征在于，所述计算所有候选特征的属性对得分，具体表示为：

MS_m[x_i][x_j]＝α_mMI_m[x_i][x_j]+β_mMH_m[x_i][x_j]

其中，MS_m[x_i][x_j]表示候选特征的属性对得分，MI_m[x_i][x_j]表示属性对的互信息矩阵，MH_m[x_i][x_j]表示属性对的自信息矩阵，α_m表示第m个特征的互信息比例参数，β_m第m个特征的自信息比例参数。

4.根据权利要求1所述的结合词向量多特征融合的新词发现方法，其特征在于，所述计算所有词向量特征属性对的得分，表示为：

MS[v_i][v_j]＝αMI[v_i][v_j]+βMH[v_i][v_j]

其中，MS[v_i][v_j]表示候选词向量特征属性对的得分，MI[v_i][v_j]表示词向量特征属性对的互信息矩阵，MH[v_i][v_j]表示词向量特征属性对的自信息矩阵，α表示互信息比例参数，β表示自信息比例参数。

5.根据权利要求1所述的结合词向量多特征融合的新词发现方法，其特征在于，所述基于词向量特征得分计算的步骤在聚类时设置不同随机种子重复进行，获得多个得分矩阵。

6.根据权利要求1所述的结合词向量多特征融合的新词发现方法，其特征在于，所述计算总得分，具体计算公式表示为：其中，＜x_i，x_j＞表示候选词对，

F_m(x)表示分词x进行第m特征标注，M为统计自然语言特征数，C为聚类的次数，MS_m表示候选特征的得分，λ_m表示权重系数，M+C表示特征个数。