[发明专利]基于文本的虚拟对象动画生成方法及装置、存储介质、终端有效
申请号: | 202010905539.7 | 申请日: | 2020-09-01 |
公开(公告)号: | CN112184858B | 公开(公告)日: | 2021-12-07 |
发明(设计)人: | 柴金祥;其他发明人请求不公开姓名 | 申请(专利权)人: | 魔珐(上海)信息科技有限公司;上海墨舞科技有限公司 |
主分类号: | G06T13/20 | 分类号: | G06T13/20;G06T13/40;G06T13/80;G10L13/02;G10L13/08;G06F40/289;G06F40/30;G06N3/04;G06N3/08;G06N20/00 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 朱薇蕾;张振军 |
地址: | 200233 上海市徐汇区宜*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 文本 虚拟 对象 动画 生成 方法 装置 存储 介质 终端 | ||
1.一种基于文本的虚拟对象动画生成方法,其特征在于,包括:
获取文本信息,其中,所述文本信息包括待生成虚拟对象动画的原始文本;
分析所述文本信息的情感特征和韵律边界;
根据所述情感特征、所述韵律边界和所述文本信息进行语音合成,以得到音频信息,其中,所述音频信息包括基于所述原始文本转换得到的带有情感的语音;
基于所述文本信息和音频信息生成对应的虚拟对象动画,并且,所述虚拟对象动画与所述音频信息在时间上是同步的;
其中,所述基于所述文本信息和音频信息生成对应的虚拟对象动画包括:接收输入信息,其中,所述输入信息包括所述文本信息和音频信息;
基于语音识别技术和预设发音字典将所述音频信息转换为发音单元及对应的时间码,其中,所述文本信息用于确定所述音频信息中每一语音的时间长度;根据所述时间码对所述发音单元进行时间对齐操作,以得到时间对齐后的发音单元序列;
对所述时间对齐后的发音单元序列进行特征分析,得到对应的语言学特征序列;
将所述语言学特征序列输入预设时序映射模型,以基于所述语言学特征序列生成对应的虚拟对象动画。
2.根据权利要求1所述的虚拟对象动画生成方法,其特征在于,所述分析所述文本信息的情感特征和韵律边界包括:
对所述文本信息进行分词处理;
对于分词得到的每一字词,对所述字词进行情感分析以得到所述字词的情感特征;
确定每一字词的韵律边界。
3.根据权利要求1或2所述的虚拟对象动画生成方法,其特征在于,所述分析所述文本信息的情感特征和韵律边界包括:
基于预设文本前端预测模型分析所述文本信息的情感特征,所述预设文本前端预测模型的输入为所述文本信息,所述预设文本前端预测模型的输出为所述文本信息的情感特征、韵律边界和分词。
4.根据权利要求1所述的虚拟对象动画生成方法,其特征在于,所述根据所述情感特征、所述韵律边界和所述文本信息进行语音合成,以得到音频信息包括:
将所述文本信息、情感特征和韵律边界输入预设语音合成模型,其中,所述预设语音合成模型用于将输入的文本序列按时序转换成语音序列,且所述语音序列中的语音带有对应时间点上文本的情感;
获取所述预设语音合成模型输出的音频信息。
5.根据权利要求4所述的虚拟对象动画生成方法,其特征在于,所述预设语音合成模型是基于训练数据训练得到的,其中,所述训练数据包括文本信息样本以及对应的音频信息样本,所述音频信息样本是根据所述文本信息样本预先录制得到的。
6.根据权利要求5所述的虚拟对象动画生成方法,其特征在于,所述训练数据还包括扩展样本,其中,所述扩展样本是对所述文本信息样本以及对应的音频信息样本进行语音文本切片重组合得到的。
7.根据权利要求1所述的虚拟对象动画生成方法,其特征在于,所述基于所述文本信息和音频信息生成对应的虚拟对象动画包括:
将所述文本信息和音频信息输入预设时序映射模型,以生成对应的虚拟对象动画。
8.根据权利要求1或7所述的虚拟对象动画生成方法,其特征在于,所述预设时序映射模型用于按时序将输入的特征序列映射至虚拟对象的表情参数和/或动作参数,以生成对应的虚拟对象动画。
9.根据权利要求1所述的虚拟对象动画生成方法,其特征在于,在获取文本信息之后,分析所述文本信息的情感特征和韵律边界之前,还包括:
根据上下文语境对所述文本信息进行归一化处理,以得到归一化处理后的文本信息。
10.根据权利要求9所述的虚拟对象动画生成方法,其特征在于,所述归一化处理包括数字读法处理以及特殊字符读法处理。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于魔珐(上海)信息科技有限公司;上海墨舞科技有限公司,未经魔珐(上海)信息科技有限公司;上海墨舞科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010905539.7/1.html,转载请声明来源钻瓜专利网。