[发明专利]一种基于孪生神经网络的英语句子词义消岐方法

说明书

本发明涉及一种基于孪生神经网络(SiameseNeuralNetwork)的英语句子词义消岐方法。本发明首先对英语语料进行数据清洗，然后对包含歧义词汇的英语句子进行分词、词性标注和语义标注，将其划分为训练语料和测试语料，然后构建训练样本对和测试样本对。通过训练样本对对孪生神经网络进行训练，得到优化后的孪生神经网络模型；在优化后的孪生神经网络模型上，使用测试样本对进行预测分类，得到歧义词汇在每个语义类别下的概率分布；具有最大概率的语义类别即为歧义词汇的语义类别。本发明对歧义词汇实现了很好的消岐，更准确地判断歧义词汇的真实含义。

技术领域：

本发明涉及一种基于孪生神经网络的英语句子词义消岐方法，该方法在自然语言处理领域中有着很好的应用。

背景技术：

在自然语言处理领域中，常常存在着一词多义的现象，往往给文本分类、机器翻译、信息检索等方面的应用带来一些困扰。根据上下文特定的语言环境，找出歧义词汇的真实语义，提高词汇表示的准确性，会给以上应用领域带来更好的效果。

关于词义消歧我们经常使用一些常见的算法，例如：k-means、朴素贝叶斯、基于关联规则的分类方法和人工神经网络等。但是，传统的算法存在着一些缺点和不足。所提取的消岐特征只局限于局部区域，分类器的训练效果不是很好。近年来，深度学习算法已被广泛地应用到自然语言处理领域。像循环神经网络、卷积神经网络等算法模型，这些深度学习算法可以更好的提取消歧特征。孪生神经网络(SiameseNeuralNetwork)是神经网络架构中的一个典型模型，它包含了左右两个权值共享的子网络，这使得子网络可以共享资源，降低了网络模型的复杂度，防止出现过拟合现象。将处理好的消岐特征通过构建正负样本对的方式分别输入到孪生神经网络模型之中，通过两个子网络的特征提取，将特征向量映射到高维空间，由距离函数计算他们之间的空间距离得到输入样本对的相似性，将用于相似性计算的孪生神经网络构造成分类器从而间接的使用相似性比较判断歧义词的类别。对于歧义词汇而言，可以很好地应用孪生神经网络来进行消岐，实现语义的正确分类。

发明内容：

为了解决自然语言处理领域中的词汇歧义问题，本发明公开了一种基于孪生神经网络的英语句子词义消岐方法。

为此，本发明提供了如下技术方案：

1.基于孪生神经网络的英语句子词义消岐方法，其特征在于，该方法包括以下步骤：

步骤1：对语料所包含的所有英语句子进行数据清洗，包括停用词处理，标点处理等，然后进行分词、词性标注和语义类标注，选取歧义词汇左右四个邻接词汇单元的词形、词性和语义类作为消岐特征。

步骤2：使用Word2Vec工具将词形、词性和语义类特征进行向量化处理，将处理好的语料分为训练语料和测试语料，其中训练语料占大部分。

步骤3：在训练语料中划分每个语义类别对应的基准样本实例及构建孪生神经网络所需要的输入样本对，包括正样本对和负样本对。

步骤4：训练过程为：将训练语料构建的输入样本对输入到孪生神经网络模型里面进行训练，得到优化后的孪生神经网络模型。

步骤5：测试过程为：将测试语料中的待测样本实例与训练语料中的基准样本实例组成输入样本对，在优化后的孪生神经网络中进行预测，计算待测样本实例与各个基准样本实例的相似性，具有最高相似度基准样本实例所对应的类别作为该待测样本实例的类别，完成词义消歧。

2.根据权利要求1所述的基于孪生神经网络的英语句子词义消岐方法，其特征在于，所述步骤1中，对英语句子进行分词、词性标注和语义类标注，提取消岐特征，具体步骤为：

步骤1-1利用英语句子的特点，对英语句子进行词汇切分；

步骤1-2利用英语词性标注工具对已切分好的词汇进行词性标注；

步骤1-3利用英语语义标注工具对已切分好的词汇进行语义类标注；