[发明专利]一种基于DNN的蒙古语声学模型的构造和使用方法

摘要

本发明提供了一种基于DNN的蒙古语声学模型的构造和使用方法。用DNN深度神经网络代替GMM高斯混合模型，实现对蒙古语声学状态的后验概率进行估算，构建DNN‑HMM声学模型，并使用DNN‑HMM声学模型对蒙古语语音数据进行识别。本发明可有效降低词识别的错误率和字识别的错误率，提高模型使用性能。

主权项

1.一种基于DNN的蒙古语声学模型的构造方法，其特征在于：用DNN深度神经网络代替GMM高斯混合模型，实现对蒙古语声学状态的后验概率进行估算。在给定蒙古语声学特征序列的情况下，首先由DNN模型用来估算当前特征属于HMM状态的概率，然后用HMM模型描述蒙古语语音信号的动态变化，捕捉蒙古语语音信息的时序状态信息。蒙古语声学模型中DNN网络的训练分为预训练和调优两个阶段。在DNN网络的预训练中，采用了逐层无监督训练算法，属于生成式训练算法。逐层无监督预训练算法是对DNN网络的每一层进行训练，而且每次只训练其中的一层，其他层的参数保持原来的初始化的参数不变，训练时，对每一层的输入和输出的误差尽量的减小，以保证每一层的参数对于该层来说都是最优的。接下来，将训练好的每一层的输出数据作为下一层的输入数据，则下一层的输入数据将比直接训练时经过多层神经网络输入到下一层的数据的误差小很多，逐层无监督预训练算法能够保证每一层之间的输入输出数据的误差都是相对较小的。通过逐层无监督预训练算法可以得到较好的神经网络初始化参数，使用蒙古语标注数据(即特征状态)通过BP算法(误差反向传播算法)进行有监督的调优，最终得到可用于声学状态分类的DNN深度神经网络模型。