[发明专利]目标音频的输出方法及装置、系统有效

专利信息
申请号: 202111019704.X 申请日: 2021-09-01
公开(公告)号: CN113724718B 公开(公告)日: 2022-07-29
发明(设计)人: 司马华鹏;龚雪飞;毛志强 申请(专利权)人: 宿迁硅基智能科技有限公司
主分类号: G10L19/16 分类号: G10L19/16;G10L15/02;G10L15/06;G10L15/16;G10L15/26;G10L25/90;G06N3/04;G06N3/08
代理公司: 南京经纬专利商标代理有限公司 32200 代理人: 阚梦诗
地址: 223808 江苏省宿*** 国省代码: 江苏;32
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 目标 音频 输出 方法 装置 系统
【权利要求书】:

1.一种目标音频的输出方法,其特征在于,包括:

将源音频输入语音后验图PPG分类网络模型,得到PPG特征向量,其中,所述PPG 特征向量用于指示每一帧源音频对应的音素标签,所述PPG 特征向量包含所述源音频的文本信息和韵律信息;

将所述PPG特征向量输入声音转换网络模型,根据所述PPG特征向量对应的所述音素标签输出目标音频的声学特征向量,其中,所述目标音频包含多个不同音色的音频;

将所述目标音频的声学特征向量输入声码器,通过所述声码器输出所述目标音频;

其中,在将源音频输入语音后验图PPG分类网络模型,得到PPG特征向量之前,所述方法还包括:

建立所述PPG分类网络模型,其中,所述PPG分类网络模型包括依次连接的抽象映射层、模块层、PPG层和分类层,所述模块层包括至少两个串联的模块;

通过第一训练样本训练所述PPG分类网络模型,其中,所述第一训练样本包括第一音频特征和所述第一音频特征对应的第一音素标签;

所述通过第一训练样本训练所述PPG分类网络模型,包括:

将所述第一音频特征输入所述抽象映射层,进行第一步抽象映射;

通过所述模块对单个所述第一训练样本的每一层第一音频特征在通道方向上做归一化,然后通过所述抽象映射层进行第二步抽象映射;

通过所述模块采用线性序列结构不断从前往后收集输入的所述第一音频特征的信息,提取所述第一音频特征之间的全局依赖信息;

通过所述模块提取所述第一音频特征之间的局部依赖信息;

整合所述全局依赖信息和所述局部依赖信息,并对所述第一音频特征做第三步抽象映射;

根据所述第一音素标签对应的音素类别的总数,通过所述PPG层对经过第三步抽象映射输出特征向量进行分类,得到第一PPG特征向量,其中,所述第一PPG特征向量的维度与所述音素类别的总数一致,所述第一PPG特征向量的每一维用于指示一种音素类别的概率;

将所述第一音频特征作为输入,将所述第一PPG特征向量作为输出,通过反向传播将所述PPG分类网络模型训练至收敛。

2.根据权利要求1所述的方法,其特征在于,通过第一训练数据训练所述PPG分类网络模型之前,所述方法还包括:

获取第一训练语料,其中,所述第一训练语料包括第一音频和所述第一音频对应的第一文本;

将所述第一音频转换为第一音频特征,并将所述第一文本转换为第一音素;

根据所述第一音频和所述第一文本的对齐关系,以及所述第一音素的时长信息,确定每一帧所述第一音频特征对应的第一音素标签,其中,所述第一音素标签用于标识所述第一音素的类别;

将所述第一音频特征确定为所述第一训练样本的输入,将所述第一音素标签确定为所述第一训练样本的输出。

3.根据权利要求1所述的方法,其特征在于,在将所述PPG特征向量输入声音转换网络模型,根据所述PPG特征向量对应的所述音素标签输出目标音频的声学特征向量之前,所述方法还包括:

建立所述声音转换网络模型,其中,所述声音转换网络模型包括编码层、解码层、声波编码层和声波预测层;

通过第二训练样本训练所述声音转换网络模型,其中,所述第二训练样本包括第二音频对应的第二PPG特征向量和所述第二音频对应的样本声学特征向量,所述第二音频包括多种不同音色的音频,所述声音转换网络模型包含多个目标标识,每一所述目标标识用于标识一种音色。

4.根据权利要求3所述的方法,其特征在于,在通过第二训练样本训练所述声音转换网络模型之前,所述方法还包括:

获取所述第二音频;

将所述第二音频输入训练好的所述PPG分类网络模型,得到所述第二音频对应的所述第二PPG特征向量,并将所述第二PPG特征向量确定为所述第二训练样本的输入;

对经过清洗处理的所述第二音频,提取所述样本声学特征向量,并将所述样本声学特征向量确定为所述第二训练样本的输出。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于宿迁硅基智能科技有限公司,未经宿迁硅基智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202111019704.X/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top