[发明专利]一种注意力模型、特征提取方法及相关装置在审
| 申请号： | 202110731775.6 | 申请日： | 2021-06-29 |
| 公开（公告）号： | CN113627163A | 公开（公告）日： | 2021-11-09 |
| 发明（设计）人： | 唐业辉;韩凯;王云鹤;肖安;许春景 | 申请（专利权）人： | 华为技术有限公司 |
| 主分类号： | G06F40/279 | 分类号： | G06F40/279;G06K9/32;G06K9/34;G06K9/62;G06N3/04 |
| 代理公司： | 深圳市深佳知识产权代理事务所(普通合伙) 44285 | 代理人： | 聂秀娜 |
| 地址： | 518129 广东*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本申请实施例公开了一种注意力模型以及特征提取方法，应用于人工智能技术领域。该注意力模型包括：一个或多个串行连接的自注意力网络，所述自注意力网络包括自注意力模块、多层感知机和第一神经网络层；所述自注意力模块包括多个并行的特征提取层和融合层，所述融合层分别与所述多个并行的特征提取层连接；所述多层感知机与所述自注意力模块串行连接，所述多层感知机包括多个串行的第一全连接层；所述第一神经网络层与所述自注意力模块以及所述多层感知机中的一个或多个并行连接，其中所述第一神经网络层用于执行特征变换。基于本方案，能够增加注意力模型所提取的特征的多样性，增强了特征的表达能力，从而提高注意力模型的性能。 | ||
| 搜索关键词： | 一种 注意力 模型 特征 提取 方法 相关 装置 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于华为技术有限公司，未经华为技术有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202110731775.6/，转载请声明来源钻瓜专利网。
- 上一篇：混叠数字信号合成孔径定位方法
- 下一篇：一种离心压缩机的内置式导叶调节机构
