[发明专利]一种基于交叉融合和重建的多模态生成式摘要获取方法在审
| 申请号： | 202211084950.8 | 申请日： | 2022-09-06 |
| 公开（公告）号： | CN115544244A | 公开（公告）日： | 2022-12-30 |
| 发明（设计）人： | 云静;袁静姝;郑博飞;焦磊;刘利民 | 申请（专利权）人： | 内蒙古工业大学 |
| 主分类号： | G06F16/34 | 分类号： | G06F16/34;G06F16/738;G06F40/30;G06N3/04;G06N3/08 |
| 代理公司： | 西安智大知识产权代理事务所 61215 | 代理人： | 段俊涛 |
| 地址： | 010080 内蒙古自治区呼*** | 国省代码： | 内蒙古;15 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 一种基于交叉融合和重建的多模态生成式摘要获取方法，从多模态摘要数据集中提取文本特征序列和视频特征序列，使用文本和视频指导下交叉融合模块，分别将一种模态的特征序列作为指导模态映射为查询特征，另一种模态的特征序列作为目标模态映射为键值对特征，捕捉模态间相关性高于设定值的一致性语义；经过迭代融合，生成文本和视频指导下多模态融合表示；使用文本和视频重建器得到文本和视频重建特征序列，并计算文本和视频重建损失；使用摘要生成器进行两层融合操作，输出摘要分布，并计算与参考摘要的生成损失；根据各损失，对各组件分别使用不同的损失函数组合，加强对模态间一致性和模态内互补语义的约束效果，提升生成摘要的准确性和丰富性。 | ||
| 搜索关键词： | 一种 基于 交叉 融合 重建 多模态 生成 摘要 获取 方法 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于内蒙古工业大学，未经内蒙古工业大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202211084950.8/，转载请声明来源钻瓜专利网。
- 上一篇：一种待贴膜、贴膜组件以及贴膜方法
- 下一篇：一种灭火器筒底筒盖自动组装结构
