[发明专利]抗噪语音识别模型的自监督训练方法、系统和存储介质在审
申请号: | 202211710809.4 | 申请日: | 2022-12-29 |
公开(公告)号: | CN116013271A | 公开(公告)日: | 2023-04-25 |
发明(设计)人: | 钱彦旻;王巍 | 申请(专利权)人: | 思必驰科技股份有限公司 |
主分类号: | G10L15/06 | 分类号: | G10L15/06;G10L15/20 |
代理公司: | 北京商专永信知识产权代理事务所(普通合伙) 11400 | 代理人: | 黄谦;侯晓艳 |
地址: | 215123 江苏省苏州市苏*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明实施例提供一种抗噪语音识别模型的自监督训练方法、系统和存储介质。该方法包括:将原始语音输入至预训练HuBERT模型,通过预训练HuBERT模型的编码器确定原始语音在编码器第1层至第L层的L个语音嵌入,将L个语音嵌入输入至预训练HuBERT模型的聚集器,将由聚集器生成的聚合表征确定为抗噪语音识别模型的编码器第L层的训练目标;逐层确定预训练HuBERT模型在编码器第1层至第L层的语音嵌入对应抗噪语音识别模型在编码器第1层至第L层的掩蔽噪声语音嵌入的损失;基于损失对抗噪语音识别模型进行自监督训练。本发明实施例在HuBERT架构上实现了针对语音识别的抗噪预训练方法,提升自监督训练的模型的抗噪能力,进一步提升自动语音识别的准确性。 | ||
搜索关键词: | 语音 识别 模型 监督 训练 方法 系统 存储 介质 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于思必驰科技股份有限公司,未经思必驰科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202211710809.4/,转载请声明来源钻瓜专利网。