[发明专利]一种声学语言模型训练方法和装置

说明书

技术领域

本发明实施方式涉及自然语言处理技术领域，更具体地，涉及一种声学语言模型训练方法和装置。

背景技术

随着计算机使用的日益普及，人们越来越期望能够与计算机直接进行语言交流，因为语言是人类进行沟通最方便、快捷、有效的方式。语音识别技术就是让计算机通过识别和理解过程，把人类语音信号转变为相应文本的一项技术，语言模型在其中扮演着提高语音识别正确率的重要角色。

由于硬件性能和软件算法的局限，当前语音识别系统对语言模型大小有比较严格的限制。与此相对，语言模型随包含词汇数量的增加，其模型大小呈指数级增长。基于这两个原因，语音识别系统可容纳的词汇数量是不能无限扩充的。当前技术条件下，语音识别系统的词表容量上限在十几万的量级。对于词表之外的词汇，语音识别系统的识别准确率会下降很多。

而且，在正常语言环境下，存在着百万量级的低频词汇。它们或者受关注时间较短（影视剧名），或者受限于地域（餐馆饭店名)，或者仅出现于某一专业领域（专业术语），等等多种因素导致，单个词汇统计显著性很小，但整体数量庞大的低频词汇现象。

因此，如何在不增加语言模型大小，以及尽量不损失模型计算精度的条件下，扩大语言模型囊括的词汇数量是一个迫切需要解决的技术问题。

发明内容

本发明实施方式提出一种声学语言模型训练方法，以扩大语言模型囊括的词汇数量，从而语音识别系统的识别准确率。

本发明实施方式提出一种声学语言模型训练装置，以扩大语言模型囊括的词汇数量，从而提高语音识别系统的识别准确率。

本发明实施方式的技术方案如下：

一种声学语言模型训练方法，该方法包括：

利用无类别标签的语言模型对训练语料进行分词，以获得无类别标签的分词数据；

对无类别标签的分词数据执行词类替换，以获得有类别标签的第一分词数据；

对有类别标签的第一分词数据进行训练，以获得有类别标签的语言模型，并利用该有类别标签的语言模型对该训练语料进行分词，以获得有类别标签的第二分词数据；

利用该有类别标签的第二分词数据获取声学语言模型。

一种声学语言模型训练装置，该装置包括分词单元、词类替换单元、语言模型训练单元和声学语言模型获取单元，其中：

分词单元，用于利用无类别标签的语言模型对训练语料进行分词，以获得无类别标签的分词数据；

词类替换单元，用于对无类别标签的分词数据执行词类替换，以获得有类别标签的第一分词数据；

语言模型训练单元，用于对有类别标签的第一分词数据进行训练，以获得有类别标签的语言模型，并利用该有类别标签的语言模型对该训练语料进行分词，以获得有类别标签的第二分词数据；

声学语言模型获取单元，用于利用该有类别标签的第二分词数据获取声学语言模型。

从上述技术方案可以看出，在本发明实施方式中，利用无类别标签的语言模型对训练语料进行分词，以获得无类别标签的分词数据；对无类别标签的分词数据执行词类替换，以获得有类别标签的第一分词数据；对有类别标签的第一分词数据进行训练，以获得有类别标签的语言模型，并利用该有类别标签的语言模型对该训练语料进行分词，以获得有类别标签的第二分词数据；利用该有类别标签的第二分词数据获取声学语言模型。由此可见，应用本发明实施方式之后，实现了基于词类分词的声学语言模型训练。本发明实施方式可以采用类别标签替换语言模型训练文本中所有该类实体名，从而减少了语言模型中的词汇数量，而且当同类实体名在计算概率时，都采用语言模型中对应类别标签的参数。本发明实施方式扩大了语言模型囊括的词汇数量，从而提高了语音识别系统的识别准确率。

而且，本发明实施方式解决了语音识别系统词表容量有限所造成的词表范围之外的词汇识别效果不佳的问题。

附图说明

图1为根据本发明实施方式声学语言模型训练方法流程图；

图2为根据本发明实施方式声学语言模型训练方法总体示意图；

图3为根据本发明实施方式声学语言模型训练装置结构图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚，下面结合附图对本发明作进一步的详细描述。

在本发明实施方式中，充分考虑到词汇知识的以下特点：

（1）、大量低频词汇是实体名，如：人名、书名、电影名等特征；