[发明专利]一种基于改进LSTM-RNN的陆空通话语义一致性校验方法在审
申请号: | 201810311700.0 | 申请日: | 2018-04-09 |
公开(公告)号: | CN108520298A | 公开(公告)日: | 2018-09-11 |
发明(设计)人: | 贾桂敏;程方圆;杨金锋 | 申请(专利权)人: | 中国民航大学 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06F17/27 |
代理公司: | 天津才智专利商标代理有限公司 12108 | 代理人: | 庞学欣 |
地址: | 300300 天*** | 国省代码: | 天津;12 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 一种基于改进LSTM‑RNN的陆空通话语义一致性校验方法。其包括制作语料库:根据民航的通话标准和语料库制作专用词表并获得单词的one‑hot向量:产生每一语句对中两个句子的语义向量;利用平均池化方法来处理语义向量并送入MLP模型中;利用MLP学习出两个语义向量的相关程度;利用KNN来判决语义的一致性。原有的基于LSTM‑RNN处理序列的方法,虽然避免了单独的RNN算法的梯度消失,但检验精度较低,本发明采用了平均池化方法来防止过拟合现象的出现,在计算相关性方面创新的利用了MLP,使得模型对于相关性的学习程度更加充分。由于深度学习利用模型自动地学习样本特征,所以本发明不需要对大量数据进行统计分析。 | ||
搜索关键词: | 语义向量 语义一致性 陆空 校验 通话 语料库 池化 词表 语义 处理序列 学习样本 统计分析 原有的 自动地 拟合 向量 学习 语句 单词 制作 句子 送入 改进 民航 判决 检验 | ||
【主权项】:
1.一种基于改进LSTM‑RNN的陆空通话语义一致性校验方法,其特征在于:所述的方法包括按顺序进行的下列步骤:步骤1)制作语料库:步骤1.1)从实际的陆空通话、相关教材和民航局陆空通话标准中,挑选复诵类型的语句对并存入txt文本中;步骤1.2)将上述文本中的语句对分成正样本和负样本两种类型,其中正样本由语义一致性的语句对组成,负样本由语义不一致性的语句对组成;步骤1.3)对上述语句对进行分词:为了方便描述句子语义,需要对语句对进行分词,以每个单词为单位将语句对中的句子进行分词,由分词之后的所有语句对构成语料库;步骤2)根据民航的通话标准和上述语料库制作专用词表并获得单词的one‑hot向量:步骤2.1)根据民航的通话标准和上述语料库制作一个专用词表;步骤2.2)利用上述专用词表获得语料库中所有单词的one‑hot向量,其中:One‑hot向量是用一个向量表示一个单词,向量的维度是词表的大小,其中One‑hot向量绝大多数位置的取值为0,只有一个位置的取值为1,这个位置就代表了当前的单词;步骤3)产生每一语句对中两个句子的语义向量:将上述每一语句对中两个句子的所有单词的one‑hot向量分别作为一个单词序列输入到两个LSTM‑RNN模型中,以对这两个LSTM‑RNN模型同时进行训练,两个LSTM‑RNN模型的输出向量分别为两个句子的语义向量;步骤4)对语义向量进行平均池化操作,以提高语义向量的泛化性,同时降低语义向量的维数;步骤5)将两个句子的语义向量输入到MLP模型中,通过MLP模型学习出语义向量的相关程度;步骤6)最后根据MLP模型学习出的结果使用K近邻法来校验两个句子的语义是否一致。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国民航大学,未经中国民航大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201810311700.0/,转载请声明来源钻瓜专利网。
- 上一篇:可编程深度神经网络处理器
- 下一篇:级间激活值量化方法及装置