[发明专利]基于骨传导信号和唇部图像融合的语音合成方法及系统在审
申请号: | 202211452852.5 | 申请日: | 2022-11-21 |
公开(公告)号: | CN116343793A | 公开(公告)日: | 2023-06-27 |
发明(设计)人: | 印二威;张亚坤;袁昊;闫野;谢良;张敬;白晓伟;陈伟;施忠臣 | 申请(专利权)人: | 中国人民解放军军事科学院国防科技创新研究院 |
主分类号: | G10L15/25 | 分类号: | G10L15/25;G06V40/20;G06V10/62;G06V10/764;G06V10/80;G06V10/82;G06N3/0475;G06N3/094;G10L13/02;G10L15/06;G10L25/24;G10L19/16 |
代理公司: | 北京众元弘策知识产权代理事务所(普通合伙) 11462 | 代理人: | 宋磊 |
地址: | 100071 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及一种基于骨传导信号和唇部图像融合的语音合成方法及系统,包括步骤:采集用户语音输入时同步获取的骨传导信号、唇部运动图像信号;基于骨传导信号、唇部运动图像信号确定时间域和空间域的单模态数据特征;基于所确定的时间域和空间域的二源单模态数据特征,应用融入跨模态注意力机制的生成对抗网络以及梅尔语谱图融合方法,建立语音模型,获得模态协同特征表达;基于所获得的模态协同特征表达,经神经网络模型可识别为特定短语和指令输出,利用人声合成模型实现语音合成。通过上述算法,实现模态协同表征共性内容,弥补单模态独立存在的表征残缺问题,优化高噪声干扰或缄默模式下语音合成的效果,从而扩展语音交互的可实现性。 | ||
搜索关键词: | 基于 传导 信号 唇部 图像 融合 语音 合成 方法 系统 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国人民解放军军事科学院国防科技创新研究院,未经中国人民解放军军事科学院国防科技创新研究院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202211452852.5/,转载请声明来源钻瓜专利网。