[发明专利]语音识别模型的训练方法、语音识别方法、装置、介质及设备有效
申请号: | 202110738245.4 | 申请日: | 2021-06-30 |
公开(公告)号: | CN113436620B | 公开(公告)日: | 2022-08-30 |
发明(设计)人: | 董林昊;马泽君 | 申请(专利权)人: | 北京有竹居网络技术有限公司 |
主分类号: | G10L15/06 | 分类号: | G10L15/06;G10L15/16;G10L15/26;G10L19/04 |
代理公司: | 北京英创嘉友知识产权代理事务所(普通合伙) 11447 | 代理人: | 曹寒梅 |
地址: | 101299 北京市平*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 语音 识别 模型 训练 方法 装置 介质 设备 | ||
1.一种语音识别模型的训练方法,其特征在于,所述语音识别模型包括编码器、CIF预测子模型和CTC预测子模型,所述方法包括:
根据所述编码器对训练语音数据进行编码,获得所述训练语音数据对应的声学向量序列,所述声学向量序列包含所述训练语音数据的每一音频帧的声学向量;
根据所述声学向量序列和所述CIF预测子模型,获得所述训练语音数据对应的信息量序列,其中,所述信息量序列包含每一所述音频帧的目标信息量;
根据所述声学向量序列和所述CTC预测子模型,获得目标概率序列,其中,所述目标概率序列中包含每一所述音频帧对应的目标文本概率;
根据所述信息量序列和所述目标概率序列,确定所述语音识别模型的目标损失;
在满足更新条件的情况下,根据所述目标损失对所述语音识别模型的模型参数进行更新。
2.根据权利要求1所述的方法,其特征在于,所述根据所述声学向量序列和所述CIF预测子模型,获得所述训练语音数据对应的信息量序列,包括:
将所述声学向量序列输入所述CIF预测子模型,获得预测信息量序列,其中,所述预测信息量序列包含每一所述音频帧对应的预测信息量;
对所述预测信息量序列中的每一所述音频帧对应的预测信息量进行归一化处理,获得每一所述音频帧对应的目标信息量,以获得所述信息量序列。
3.根据权利要求1所述的方法,其特征在于,所述根据所述声学向量序列和所述CTC预测子模型,获得目标概率序列,包括:
将所述声学向量序列输入所述CTC预测子模型,获得每一所述音频帧对应的预测概率分布;
针对每一所述音频帧,将该音频帧对应的预测概率分布中对应于目标字符的概率之和,确定为所述音频帧的文本概率;
对每一所述音频帧对应的文本概率进行归一化处理,获得所述音频帧对应的目标文本概率,以获得所述目标概率序列。
4.根据权利要求1所述的方法,其特征在于,所述根据所述信息量序列和所述目标概率序列,确定所述语音识别模型的目标损失,包括:
根据所述信息量序列和所述目标概率序列之间的目标距离,确定语音识别模型对应的距离损失;
基于所述距离损失和所述语音识别模型的预测损失,确定所述目标损失,其中,所述预测损失包括CIF预测子模型对应的数量损失和交叉熵损失以及所述CTC预测子模型对应的对齐损失中的一者或多者,所述CIF预测子模型对应的数量损失是基于所述CIF预测子模型输出的预测字符的数量、和所述训练语音数据对应的训练文本的字符数量确定的。
5.根据权利要求4所述的方法,其特征在于,通过以下公式根据所述信息量序列和所述目标概率序列之间的目标距离,确定语音识别模型对应的距离损失:
其中,LKL用于表示所述距离损失;
Pu用于表示第u个音频帧对应的目标文本概率;
αu用于表示第u个音频帧对应的目标信息量。
6.一种语音识别方法,其特征在于,所述方法包括:
接收待识别的语音数据;
将所述语音数据输入语音识别模型,获得所述语音数据对应的目标文本,其中,所述语音识别模型是基于权利要求1-5中任一项所述的语音识别模型的训练方法进行训练获得的。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京有竹居网络技术有限公司,未经北京有竹居网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110738245.4/1.html,转载请声明来源钻瓜专利网。