[发明专利]增强现实方法和装置有效
申请号: | 201711308889.X | 申请日: | 2017-12-11 |
公开(公告)号: | CN109903392B | 公开(公告)日: | 2021-12-31 |
发明(设计)人: | 张伟华;吴江旭;李凡;彭刚林;张洪光;孔磊锋 | 申请(专利权)人: | 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司 |
主分类号: | G06T19/00 | 分类号: | G06T19/00;G06K9/00;G06K9/32;G06K9/62 |
代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 张一军;杨晓伟 |
地址: | 100195 北京市海淀区杏石口路6*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 增强 现实 方法 装置 | ||
1.一种增强现实方法,其特征在于,包括:
采集目标的视频信息,从中获取目标的真实图像信息以及真实声音信息;使用所述真实图像信息确定基于图像的至少一种目标状态数据,使用所述真实声音信息确定基于声音的至少一种目标状态数据;所述目标状态数据包括:情绪数据、年龄数据以及性别数据;任一种目标状态数据中的任一组均包括:目标状态的判断结果、以及与该判断结果对应的置信度;
将基于图像与基于声音的同种目标状态数据融合,得到目标画像数据;获取与目标画像数据对应的虚拟信息,将所述虚拟信息叠加到所述视频信息中进行展示;
所述将基于图像与基于声音的同种目标状态数据融合,得到目标画像数据包括:
对于基于图像与基于声音的任意两组同种目标状态数据:第一状态数据与第二状态数据;其中,第一状态数据为基于图像的、包括第一判断结果以及第一置信度的目标状态数据,第二状态数据为基于声音的、包括第二判断结果以及第二置信度的目标状态数据;
比较第一判断结果与第二判断结果是否相同:
在比较结果为相同时,检测第一置信度与第二置信度之和是否大于第一置信阈值:若是,将第一判断结果或第二判断结果确定为目标画像数据;
在比较结果为不同时,检测第一置信度与第二置信度中的较大者是否大于第二置信阈值:若是,将所述较大者对应的判断结果确定为目标画像数据;第二置信阈值大于第一置信阈值。
2.根据权利要求1所述的方法,其特征在于,所述真实图像信息包括:目标的面部图像信息;以及,所述使用所述真实图像信息确定基于图像的至少一种目标状态数据包括:
从所述面部图像信息中确定多个关键点的位置信息,利用所述位置信息对所述面部图像信息进行倾斜校正;
在经过校正的面部图像信息中提取多个面部特征值输入预先建立的图像分类模型,得到基于图像的至少一种目标状态数据。
3.根据权利要求1所述的方法,其特征在于,所述使用所述真实声音信息确定基于声音的至少一种目标状态数据包括:
提取所述真实声音信息中的多个音频特征参数,并对所述音频特征参数进行聚类;
将聚类后的音频特征参数输入预先建立的声音分类模型,得到基于声音的至少一种目标状态数据。
4.根据权利要求1-3任一所述的方法,其特征在于,所述虚拟信息包括以下至少一种:视觉信息、听觉信息以及特定效果信息。
5.一种增强现实装置,其特征在于,包括:
目标识别单元,用于采集目标的视频信息,从中获取目标的真实图像信息以及真实声音信息;使用所述真实图像信息确定基于图像的至少一种目标状态数据,使用所述真实声音信息确定基于声音的至少一种目标状态数据;所述目标状态数据包括:情绪数据、年龄数据以及性别数据;任一种目标状态数据中的任一组均包括:目标状态的判断结果、以及与该判断结果对应的置信度;
融合展示单元,用于将基于图像与基于声音的同种目标状态数据融合,得到目标画像数据;获取与目标画像数据对应的虚拟信息,将所述虚拟信息叠加到所述视频信息中进行展示;
所述融合展示单元进一步用于:对于基于图像与基于声音的任意两组同种目标状态数据:第一状态数据与第二状态数据;其中,第一状态数据为基于图像的、包括第一判断结果以及第一置信度的目标状态数据,第二状态数据为基于声音的、包括第二判断结果以及第二置信度的目标状态数据;比较第一判断结果与第二判断结果是否相同:在比较结果为相同时,检测第一置信度与第二置信度之和是否大于第一置信阈值:若是,将第一判断结果或第二判断结果确定为目标画像数据;在比较结果为不同时,检测第一置信度与第二置信度中的较大者是否大于第二置信阈值:若是,将所述较大者对应的判断结果确定为目标画像数据;第二置信阈值大于第一置信阈值。
6.根据权利要求5所述的装置,其特征在于,所述真实图像信息包括:目标的面部图像信息;以及,所述目标识别单元进一步用于:
从所述面部图像信息中确定多个关键点的位置信息,利用所述位置信息对所述面部图像信息进行倾斜校正;在经过校正的面部图像信息中提取多个面部特征值输入预先建立的图像分类模型,得到基于图像的至少一种目标状态数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711308889.X/1.html,转载请声明来源钻瓜专利网。