[发明专利]一种用于语音识别的Ngram模型改进方法

说明书

技术领域

本发明公开了一种用于语音识别的Ngram模型改进方法，特别是用于小语料条件下的特定语音识别任务的Ngram模型改进方法。

背景技术

1.语言模型在语音识别中起到举足轻重的作用。声学模型、语言模型和解码算法，构成一个完整的语音识别框架。

2.传统的Ngram(N元文法，N-gram，Ngram)模型是应用最广的语言模型，其优点是查询速度快，可以方便的转成WFST(加权有限状态转换器，Weighted Finite State Transducer)。转成WFST后，识别速度可以提升一个数量级。然而，由于Ngram模型对数据分布作了一系列假设，当训练数据分布与假设不同时，特别是训练数据量较少的时候，其性能将大打折扣。

3.近年来出现了一种RNN(回归神经网络，Recurrent Neural Network)语言模型，它可以解决Ngram模型的这种缺点。但它的时间复杂度是Ngram模型的百倍以上。查询速度对语音识别而言完全无法接受。另外，由于RNN具有时间记忆功能，在同一时刻不宜对多个词进行查询。否则语言模型的记忆混乱，查询结果严重失常。

4.现行的解决方案通常采用Ngram作语音识别，将结果输出后由RNN模型重新计分。该方法可以取得很好的效果，但缺点也是明显的。它将一遍搜索过程变成了多遍搜索。系统需要维持一个庞大的词图(WordLattice)网络来保存所有可能的候选。

5.语言模型通常采用PPL(困惑度，Perplexity)衡量其性能，然而PPL与语音识别率不能直接挂钩，很难认为，把PPL优化到最小(概率最大)则识别错误率最小。

发明内容

为解决上述问题，本发明提出了一种用于语音识别的Ngram模型改进方法，其包括：

步骤S101：将用于语音识别的原始Ngram模型转成等价的WFSA网络NET1；

步骤S102：利用RNN优化所述NET1，使得使用所述NET1对训练文本打分时，对于训练文本中每个语句的输出概率最大化；

步骤S103：利用发音字典将所述NET1转成带有语言模型概率的WFST发音网络NET2；

步骤S104：利用音子混淆矩阵优化所述发音网络NET2，使得句子错误率最小化；

步骤S105：将所述发音网络NET2反向转换成改进后的Ngram模型。

本发明提出的方法采用RNN对Ngram进行优化，优化后的Ngram模型PPL性能优于RNN，且能保持原有的快速查询特性。该技术应用于训练语料不足条件下的Ngram语言模型优化可取的显著效果。它引入了音子混淆矩阵对Ngram模型进行最小错误率训练，该过程模拟了语音识别过程中声学解码和语言解码相结合的解码方式，使得优化目标更接近真实的语音识别过程，从而使得识别率得到显著提高。

附图说明

图1为本发明的用于语音识别的Ngram模型改进方法的流程图；

图2为本发明中将Ngram模型转换成WFSA网络NET1的流程图；

图3为本发明中利用RNN模型优化NET1的流程图；

图4为本发明中利用RNN模型优化NET1中所有弧的流程图；

图5为本发明中用于增强NET1的表达能力的流程图；

图6为利用本发明的方法所转成的WFSA网络的具体实例示图；

图7为图6所示出的WFSA网络上标示了最佳路径的示例图；

图8为WFST和WFSA的一个示例图；

图9(a)-9(i)为实现图6的具体分解流程图；

图10(a)为本发明中将NET1转换成WFST网络NET_WORD的示意图；

图10(b)为本发明中将WFST网络NET_WORD转换成WFST网络NET2的示意图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚明白，以下结合具体实施例，并参照附图，对本发明进一步详细说明。

图1为本发明所述的一种用于语音识别的Ngram模型改进方法的流程图。所述用于语音识别的Ngram模型改进方法用于特定领域语音识别，针对训练语料较少的条件下改善Ngram模型的性能具有显著效果，例如车载导航系统中的语音导航功能、地名识别功能、控制命令识别功能等。

所述用于语音识别的Ngram模型改进方法，具体包括步骤：