[发明专利]基于神经网络的信息处理方法及装置、介质和电子设备有效
| 申请号： | 201910822852.1 | 申请日： | 2019-09-02 |
| 公开（公告）号： | CN110705273B | 公开（公告）日： | 2023-06-13 |
| 发明（设计）人： | 王星;郝杰;涂兆鹏;史树明 | 申请（专利权）人： | 腾讯科技（深圳）有限公司 |
| 主分类号： | G06F40/284 | 分类号： | G06F40/284;G06F40/289;G06N3/0455 |
| 代理公司： | 深圳市联鼎知识产权代理有限公司 44232 | 代理人： | 刘抗美 |
| 地址： | 518000 广东省深圳*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种基于神经网络的信息处理方法、基于神经网络的信息处理装置、计算机可读介质和电子设备，涉及人工智能技术领域。该信息处理方法包括：获取与输入信息对应的目标信息序列，并基于目标信息序列确定出短语级表示序列；其中，短语级表示序列中包括多个短语元素；对短语级表示序列进行线性变换，得到与短语级表示序列对应的请求向量序列、键向量序列和值向量序列；计算请求向量序列与键向量序列之间的逻辑相似度，并对逻辑相似度进行非线性变换，得到与各短语元素对应的注意力权重分布；基于注意力权重分布和值向量序列，确定输入信息对应的第一网络表示序列。本发明可以提高自关注神经网络的性能。 | ||
| 搜索关键词： | 基于 神经网络 信息处理 方法 装置 介质 电子设备 | ||
【主权项】：
1.一种基于神经网络的信息处理方法，其特征在于，包括：/n获取与输入信息对应的目标信息序列，并基于所述目标信息序列确定出短语级表示序列；其中，所述短语级表示序列中包括多个短语元素；/n对所述短语级表示序列进行线性变换，得到与所述短语级表示序列对应的请求向量序列、键向量序列和值向量序列；/n计算所述请求向量序列与所述键向量序列之间的逻辑相似度，并对所述逻辑相似度进行非线性变换，得到与各所述短语元素对应的注意力权重分布；/n基于所述注意力权重分布和所述值向量序列，确定所述输入信息对应的第一网络表示序列。/n
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于腾讯科技（深圳）有限公司，未经腾讯科技（深圳）有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201910822852.1/，转载请声明来源钻瓜专利网。
