[发明专利]基于网格的协同注意力VQA方法和装置有效
| 申请号： | 201910901463.8 | 申请日： | 2019-09-23 |
| 公开（公告）号： | CN110704668B | 公开（公告）日： | 2022-11-04 |
| 发明（设计）人： | 付莹 | 申请（专利权）人： | 北京影谱科技股份有限公司 |
| 主分类号： | G06F16/583 | 分类号： | G06F16/583;G06V10/764;G06V10/82;G06N3/04 |
| 代理公司： | 北京万思博知识产权代理有限公司 11694 | 代理人： | 高镇 |
| 地址： | 100000 北京市*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本申请公开了一种基于网格的协同注意力VQA方法和装置，属于视觉问答领域。该方法包括：从数据集中获取图像并进行网格划分；将网格划分后的图像输入RCNN中，经卷积、池化及特征融合后得到特征图；从数据集中获取问题并映射到一个向量空间内得到词向量；根据特征图和词向量计算出相关矩阵，在计算出特征图的注意力分布和词向量的注意力分布；然后输入GRU计算得到新的词向量和对应的编码；采用MLP对新的词向量和对应的编码进行整合，得到问题对应的答案。该装置包括：划分模块、RCNN模块、映射模块、计算模块、GRU模块和MLP模块。本申请实现了图像和问题文本相互关注，提高了预测的准确率，提升了模型的性能。 | ||
| 搜索关键词： | 基于 网格 协同 注意力 vqa 方法 装置 | ||
【主权项】：
1.一种基于网格的协同注意力VQA方法，包括：/n从数据集中获取图像，并进行网格划分；/n将所述网格划分后的图像输入RCNN区域卷积神经网络中，经卷积、池化及特征融合后得到特征图；/n从所述数据集中获取问题，将所述问题映射到一个向量空间内得到词向量；/n根据所述特征图和词向量计算出相关矩阵，根据所述特征图、词向量和相关矩阵，计算出所述特征图的注意力分布和所述词向量的注意力分布；/n将所述特征图的注意力分布和所述词向量的注意力分布输入GRU门控循环单元，计算得到新的词向量和对应的编码；/n采用MLP多层感知机对所述新的词向量和对应的编码进行整合，得到所述问题对应的答案。/n
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京影谱科技股份有限公司，未经北京影谱科技股份有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201910901463.8/，转载请声明来源钻瓜专利网。
