[发明专利]一种基于DNN的蒙古语声学模型的训练方法有效
申请号: | 201711390467.1 | 申请日: | 2017-12-21 |
公开(公告)号: | CN108182938B | 公开(公告)日: | 2019-03-19 |
发明(设计)人: | 马志强;杨双涛;李图雅 | 申请(专利权)人: | 内蒙古工业大学 |
主分类号: | G10L15/06 | 分类号: | G10L15/06;G10L15/14;G10L15/16 |
代理公司: | 北京中济纬天专利代理有限公司 11429 | 代理人: | 杨乐 |
地址: | 010080 内蒙古自治*** | 国省代码: | 内蒙古;15 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 错误率 高斯混合模型 后验概率 模型使用 神经网络 声学模型 词识别 构建 估算 | ||
1.一种基于DNN的蒙古语声学模型的训练方法,其特征在于:
首先训练GMM-HMM蒙古语声学模型,得到对齐的蒙古语语音特征数据;
然后在对齐语音特征数据的基础上对深度神经网络(DNN)进行训练和调优;
最后根据得到的蒙古语语音观察状态再对隐马尔科夫模型(HMM)进行训练
所述训练方法的具体步骤为:
步骤1: 进行GMM-HMM蒙古语声学模型训练,得到一个最优的GMM-HMM蒙古语语音识别系统,用gmm-hmm表示;
步骤2: 利用维特比解码算法解析gmm-hmm,对gmm-hmm蒙古语声学模型的模型中的每一个senone进行标号,得到senone_id;
步骤3: 利用gmm-hmm蒙古语声学模型,将声学状态tri-phone映射到相应的senone_id;
步骤4: 利用gmm-hmm蒙古语声学模型初始化DNN-HMM蒙古语声学模型, HMM隐马尔科夫模型参数部分,最终得到dnn-hmm1模型;
步骤5: 利用蒙古语声学特征文件预训练DNN深度神经网络,得到ptdnn;
步骤6: 使用gmm-hmm蒙古语声学模型,将蒙古语声学特征数据进行状态级别的强制对齐,对齐结果为align-raw;
步骤7: 将align-raw的物理状态转换成senone_id,得到帧级别对齐的训练数据align-frame;
步骤8: 利用对齐数据align-data对ptdnn深度神经网络进行有监督地微调,得到网络模型dnn;
步骤9: 根据最大似然算法,利用dnn重新估计dnn-hmm1中HMM模型的转移概率得到的网络模型用dnn-hmm2表示;
步骤10: 如果dnn和dnn-hmm2上测试集识别准确率没有提高,训练结束,
否则,使用dnn-hmm2对训练数据再次进行状态级别对齐,然后执行步骤7。
2.如权利要求1所述的一种基于DNN的蒙古语声学模型的训练方法,其特征在于:在DNN-HMM 蒙古语声学模型训练中加入 dropout 技术避免过拟合现象。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于内蒙古工业大学,未经内蒙古工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711390467.1/1.html,转载请声明来源钻瓜专利网。