[发明专利]一种基于神经网络自注意力机制的精确文本表示方法在审
| 申请号： | 202111291168.9 | 申请日： | 2021-11-02 |
| 公开（公告）号： | CN113961706A | 公开（公告）日： | 2022-01-21 |
| 发明（设计）人： | 葛季栋;李传艺;陈恒;骆斌 | 申请（专利权）人： | 南京大学 |
| 主分类号： | G06F16/35 | 分类号： | G06F16/35;G06F16/335;G06N3/04;G06N3/08 |
| 代理公司： | 暂无信息 | 代理人： | 暂无信息 |
| 地址： | 210023 江*** | 国省代码： | 江苏;32 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种基于神经网络自注意力机制的精确文本表示方法，包括以下步骤：根据不同类型任务，对数据集预处理；根据语义向量模型字级别表示向量初始化表征；使用Bi‑LSTM神经网络模型获取初级全局词表示；使用自注意力机制融合全局信息，得到上下文筛选向量；针对不同文本任务适配两种精确文本表示向量模型，对于摘要任务，得到词粒度的精确文本表示，基于Seq2Seq模型与注意力机制解码生成摘要文本；对于分类任务，得到句粒度的精确文本表示，得到预测结果。本发明模拟真实场景下人的思考路径，通读文本获取上下文信息，确定每个单词的重要程度，从语义层面筛选重要文本信息，提升文本表示向量的精确性，提高了文本摘要与文本分类任务的准确性。 | ||
| 搜索关键词： | 一种 基于 神经网络 注意力 机制 精确 文本 表示 方法 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于南京大学，未经南京大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202111291168.9/，转载请声明来源钻瓜专利网。
