[发明专利]基于深度神经网络的自然语言语义分析系统及方法

摘要

本发明公开了一种基于深度神经网络的自然语言语义分析系统及方法，包括构建知识图、输入训练集、得到N‑Gram概率模型、利用word2vec将词表征为向量得到矩阵作为输入、利用深度置信网络模型进行实体识别、输入验证集，调整分类器参数、输入测试集，测试模型的分类能力、采用知识图的方法，对语言描述中的实体进行推理、得到相应结论。与现有技术相比，本发明采用知识图的方法对语言描述中的实体进行推理，得到相应的结论，使我们的自然语言理解功能不仅具备理解字面意思的能力，还具备逻辑推理，理解深层意思的能力，具有推广使用的价值。

主权项

一种基于深度神经网络的自然语言语义分析系统及方法，其特征在于，包括以下步骤：(1)构建知识图，用知识图作为实体构造的知识表示方法，以期基于此建立出知识表示准确的实体；以长短文本为语义知识资源，知识图为语义表示方法，构建一种基于深度神经网络下的自然语言语义知识图，利用构建的知识图对自然语言中的实体进行描述；(2)输入训练集；(3)利用基于统计的分词方法中的N‑Gram算法，N‑Gram模型思想:一个单词的出现与其上下文环境中出现的单词序列密切相关，第n个词的出现只与前面n‑1个词相关，而与其它任何词都不相关，设W1，W2，…，Wn是长度为n的字串，由于预测词Wn的出现概率，必须知道它前面所有词的出现概率，太过复杂；为了简化计算，规定任意词Wi只与其前两个相关，得到三元概率模型如下:P(W)≈P(W1)P(W2/W1)∏i＝3…n P(Wi/IWi‑2Wi‑1) (1)以此类推，N元模型就是假设当前词的出现概率只同它前面的N‑1个词有关而得出的；(4)利用word2vec将词表征为向量，得到矩阵作为输入；Word2vec以文本语料库作为输入，首先在训练文本数据集中构建一个词汇表，然后训练出每个单词的词向量作为输出，产生的词向量文件可以作为特征向量供后续的自然语言处理和机器学习等算法使用；Word2Vec模型提取文本中词汇的位置关系，提取词汇的上下文信息，生成词汇的向量模型；词汇可以通过数值向量量化表示，词汇之间的相似度可以由向量计算得到；(5)利用深度置信网络模型进行实体识别，实体识别的目的是识别出数据集中描述同一真实世界实体的元组；利用深度置信网络模型进行基于特征的实体关系抽取任务；(6)输入验证集，调整分类器参数；(7)输入测试集，测试模型的分类能力；(8)采用知识图的方法，对语言描述中的实体进行推理；(9)得到相应结论；构建基于深度置信网络的知识图，实现对自然语言语义的分析和理解，有利于可视化或分类，得出相应的结论。