[发明专利]基于多模态知识图谱的语音自适应补全系统在审
申请号: | 202111207821.9 | 申请日: | 2021-10-18 |
公开(公告)号: | CN113936637A | 公开(公告)日: | 2022-01-14 |
发明(设计)人: | 蔡鸿明;李琥;于晗;姜丽红 | 申请(专利权)人: | 上海交通大学 |
主分类号: | G10L13/02 | 分类号: | G10L13/02;G10L13/06;G10L13/08;G06F16/36;G06F40/35;G06V40/16;G06V10/80;G06V10/82;G06K9/62;G06N3/04;G06N3/08;G06N5/04 |
代理公司: | 上海交达专利事务所 31201 | 代理人: | 王毓理;王锡麟 |
地址: | 200240 *** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 一种基于多模态知识图谱的语音自适应补全系统,包括:数据接收器、数据分析器和数据推理器,其中:数据接收器根据接收的音视频数据,进行预处理并输出至数据分析器;数据分析器对语音和图像的分析提取出波形时序特征和唇部轨迹特征,经多模态联合表征得到音素序列;数据推理器根据历史文本,进行领域会话建模和候选文本预测,结合音素序列进行文本推理,得到具有语义的语句,并根据波形特征合成补全的语音。本发明通过音素推理模型,在语音模态缺失时进行音素识别的同时,根据多模态知识图谱中实体间的语义关系对已有语音所产生的历史文本进行领域会话建模,从而推理并生成具有语义的文本,结合用户语音的波形特征对语音进行合成,形成补全后的音频。 | ||
搜索关键词: | 基于 多模态 知识 图谱 语音 自适应 全系统 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海交通大学,未经上海交通大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202111207821.9/,转载请声明来源钻瓜专利网。