[发明专利]一种基于深度学习的端到端视频字幕生成方法在审
| 申请号： | 202310020696.3 | 申请日： | 2023-01-06 |
| 公开（公告）号： | CN116132756A | 公开（公告）日： | 2023-05-16 |
| 发明（设计）人： | 冉玉婷;周明亮;房斌;魏雪凯;蒲华燕;罗均;向涛 | 申请（专利权）人： | 重庆大学 |
| 主分类号： | H04N21/81 | 分类号： | H04N21/81;G06F16/783;G06N3/08;G06N3/0499;H04N21/84;H04N21/845 |
| 代理公司： | 北京慕达星云知识产权代理事务所(特殊普通合伙) 11465 | 代理人： | 李冉 |
| 地址： | 400030 *** | 国省代码： | 重庆;50 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种基于深度学习的端到端视频字幕生成方法，采用视觉编码器和文本编码器分别提取视觉网格特征和全局文本特征；将视觉网格特征送入局部视觉编码器得到精细的局部视觉特征；将局部视觉编码器中产生的中间特征输入到桥梁模块产生全局视觉特征；将全局视觉特征与全局文本特征一起输入到注意力机制的多模态编码器进行融合，产生多模态特征；将多模态特征输入到解码器中的预融合模块与已经生成的单词进行初步融合，生成预融合特征；将局部视觉特征输入到解码器中的交叉注意力模块与预融合特征相结合，逐字生成描述。该方法能够并行产生局部视觉特征和多模态表征，减少训练时间的同时提高建模能力，从而生成更准确的字幕描述。 | ||
| 搜索关键词： | 一种 基于 深度 学习 端视 字幕 生成 方法 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于重庆大学，未经重庆大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202310020696.3/，转载请声明来源钻瓜专利网。
