[发明专利]文本处理及其模型的训练方法、装置、设备和存储介质在审
| 申请号: | 202210113790.9 | 申请日: | 2022-01-30 |
| 公开(公告)号: | CN114550692A | 公开(公告)日: | 2022-05-27 |
| 发明(设计)人: | 原湉;张辉;陈泽裕 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
| 主分类号: | G10L13/08 | 分类号: | G10L13/08;G10L13/10;G10L13/02;G06F16/35;G06F40/289;G06N3/08 |
| 代理公司: | 北京鸿德海业知识产权代理有限公司 11412 | 代理人: | 田宏宾 |
| 地址: | 100085 北京市*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 文本 处理 及其 模型 训练 方法 装置 设备 存储 介质 | ||
本公开提供了一种文本处理及其模型的训练方法、装置、设备和存储介质,涉及计算机技术领域,具体涉及深度学习、语音合成等人工智能领域。文本处理方法包括:对文本进行正则化处理,以获得正则化文本;提取所述正则化文本的表示特征;基于所述表示特征,并行执行多个任务,以获得所述多个任务中各个任务的任务结果。本公开可以提高文本处理效果。
技术领域
本公开涉及计算机技术领域,具体涉及深度学习、语音合成等人工智能领域,尤其涉及一种文本处理及其模型的训练方法、装置、设备和存储介质。
背景技术
语音合成,又称文语转换(Text to Speech,TTS),是指将文本转换为语音的技术。
语音合成系统主要包括文本前端模块、声学模型和声码器,文本前端模块用于将文本转换为语言学特征或音素,声学模型用于将文本前端模块输出的语言学特征或音素转换为声学特征,声学特征比如为梅尔频谱特征,声码器用于将声学模型输出的声学特征转换为语音。
发明内容
本公开提供了一种文本处理及其模型的训练方法、装置、设备和存储介质。
根据本公开的一方面,提供了一种文本处理方法,包括:对文本进行正则化处理,以获得正则化文本;提取所述正则化文本的表示特征;基于所述表示特征,并行执行多个任务,以获得所述多个任务中各个任务的任务结果。
根据本公开的另一方面,提供了一种文本处理模型的训练方法,所述文本处理模型包括:特征提取模型和多个任务处理模型,所述方法包括:采用所述特征提取模型,对输入的训练文本进行特征提取,以输出所述训练文本的表示特征;采用所述多个任务处理模型中各个任务处理模型,对所述表示特征进行处理,以输出各个任务的预测结果;基于所述预测结果和所述训练文本的标签数据,构建损失函数;基于所述损失函数,调整所述特征提取模型的模型参数和所述多个任务处理模型中至少一个任务处理模型的模型参数。
根据本公开的另一方面,提供了一种文本处理装置,包括:正则化模块,用于对文本进行正则化处理,以获得正则化文本;特征提取模块,用于提取所述正则化文本的表示特征;任务执行模块,用于基于所述表示特征,并行执行多个任务,以获得所述多个任务中各个任务的任务结果。
根据本公开的另一方面,提供了一种文本处理模型的训练装置,所述文本处理模型包括:特征提取模型和多个任务处理模型,所述装置包括:特征提取模块,用于采用所述特征提取模型,对输入的训练文本进行特征提取,以输出所述训练文本的表示特征;任务执行模块,用于采用所述多个任务处理模型中各个任务处理模型,对所述表示特征进行处理,以输出各个任务的预测结果;构建模块,用于基于所述预测结果和所述训练文本的标签数据,构建损失函数;调整模块,用于基于所述损失函数,调整所述特征提取模型的模型参数和所述多个任务处理模型中至少一个任务处理模型的模型参数。
根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上述任一方面的任一项所述的方法。
根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据上述任一方面的任一项所述的方法。
根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据上述任一方面的任一项所述的方法。
根据本公开的技术方案,可以提高文本处理效果。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210113790.9/2.html,转载请声明来源钻瓜专利网。





