[发明专利]一种基于多模态多层次统一交互的短语定位识别方法有效
申请号: | 202011127854.8 | 申请日: | 2020-10-11 |
公开(公告)号: | CN112269892B | 公开(公告)日: | 2023-04-07 |
发明(设计)人: | 刘偲;余天予;惠天瑞;廖越;余志浩 | 申请(专利权)人: | 北京航空航天大学 |
主分类号: | G06F16/58 | 分类号: | G06F16/58;G06F16/55;G06F16/33;G06V10/44;G06V10/764;G06V10/82;G06N3/0464;G06N3/048;G06N3/08 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 100191*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于多模态多层次统一交互的短语定位识别方法,包括:构建预训练机器阅读模型和预训练目标检测模型;获取图片和针对图片的文字说明;利用预训练机器阅读模型提取文字说明中各个短语基于上下文的文本特征;利用预训练目标检测模型提取图片中的多个图像候选位置,并对图像候选位置对应的低维特征进行优化处理;利用注意力算法模拟各个短语与各个图像候选位置之间的交互;基于交互结果计算各个短语与图像候选位置之间的特征相似度,并以特征相似度作为键值确定各个短语的定位决策结果;利用深度集合模型对各个短语的定位决策结果进行整合和正则化处理。本发明大大提高短语定位识别的精确度,且更具鲁棒性。 | ||
搜索关键词: | 一种 基于 多模态 多层次 统一 交互 短语 定位 识别 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京航空航天大学,未经北京航空航天大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202011127854.8/,转载请声明来源钻瓜专利网。