[发明专利]一种基于大量伪数据的贝叶斯词义消歧方法

说明书

技术领域

本发明属于自然语言处理技术领域，具体地说，涉及一种新的基于大量伪数据的贝叶斯词义消歧方法。

技术背景

词义消歧(Word Sense Disambiguation,WSD)是指确定多义词在自然语言特定的上下文中的意义，它是自然语言处理领域的一个核心问题。在机器理解自然语言的过程中，当一个歧义词出现在特定的上下文中时，就会出现词语的歧义现象，尤其是在当前“信息爆炸”的互联网时代，词汇的歧义问题就显得更加严重。无论是汉语还是西方语言，一词多义的现象普遍存在。

目前，基于语料库的词义消歧方法可分为有监督和无监督方法。无监督方法不需要训练语料，但该方法的消歧效果却不尽如人意。有监督方法的消歧效果要明显优于无监督方法，但是面临较为严重的数据稀疏问题。为了解决此问题，很多学者开始研究自动生成有标注语料的方法。利用字典和大规模无标注的语料库自动生成有标注数据，然后采用有监督方法训练消歧模型，进行消歧。但是该方法同样存在问题：获取大规模、高质量的训练语料库费时费力。该问题严重阻碍了有监督词义消歧方法的大规模应用。

面对当前有监督词义消歧方法存在的问题，本发明专利充分利用互联网上丰富的数据资源，提出一种基于大量伪数据的贝叶斯词义消歧方法，力求能够缓解有监督方法面临的数据稀疏问题，提升词义消歧效果。

发明内容

本发明主要针对当前的词义消歧方法存在消歧效果差、获取消歧知识费时费力等问题，提供一种基于大量伪数据的贝叶斯词义消歧方法。

为解决上述技术问题，本发明采取的技术方案为：

本发明采用技术方案，如图1所示。首先利用依存句法分析器，对训练语料库中包含歧义词的训练实例进行句法分析，收集与歧义词具有依存关系的元组，然后利用机器翻译系统，查找在机器翻译语料库中包含该元组的例句。如此反复进行，将查找出的例句加入伪训练语料库，随后利用训练语料库和伪训练语料库，训练一个贝叶斯消歧模型，最后，利用该消歧模型决策歧义词的词义。具体为：

一种基于大量伪数据的贝叶斯词义消歧方法，包括以下步骤：

步骤1、采用依存句法分析器对训练语料库中的训练实例进行分析，收集与目标歧义词具有依存关系的元组；已有研究表明，句中歧义词的词义可以根据句子的上下文推断出。通常，与歧义句中歧义词具有依存关系的元组决定了歧义词的词义。例如，训练语料库中歧义句“工程一号机组一次性点火成功”，歧义词“机组”有2个含义，分别是“机器”和“人员”。对该句进行依存句法分析，如图2所示。可以得出与“机组”具有句法关系(SBV，主谓关系)的元组是“号”和“点火”。由这些词可以判断，歧义词“机组”的含义是“机器”；

步骤2、将步骤1收集的依存元组输入机器翻译系统，获取包含该依存元组的双语例句，并将其加入伪训练语料库；将步骤1收集的依存元组输入机器翻译系统，如百度翻译或有道翻译，机器翻译系统不仅可以输出依存元组的译文，同时还可以找到许多包含该依存元组的双语例句，将这些双语例句与歧义词词义添加至伪训练语料库。机器翻译系统可以召回包含该元组的例句，这些例句包含了更多的消歧知识，可以扩充伪训练语料库。例如，将上一步返回的元组(机组，点火)输入机器翻译系统，召回包含该元组的部分例句，如图3、图4、图5所示。通过这些例句，可以找到更多与歧义词“机组”具有依存关系的词语，包括“大型”、“系统”、“等离子”、“同类”和“提供”等。在这些词语的搭配限制条件下，歧义词“机组”在句中的含义仍然是“机器”。将包含这些元组的例句加入伪训练语料库；