[发明专利]基于层次性多注意力网络的文档分类方法在审
| 申请号： | 201811314237.1 | 申请日： | 2018-11-06 |
| 公开（公告）号： | CN109558487A | 公开（公告）日： | 2019-04-02 |
| 发明（设计）人： | 黄英仁;王子文;薛云 | 申请（专利权）人： | 华南师范大学 |
| 主分类号： | G06F16/35 | 分类号： | G06F16/35;G06F17/27;G06N3/04 |
| 代理公司： | 广州粤高专利商标代理有限公司 44102 | 代理人： | 江裕强 |
| 地址： | 510006 广东省广州市番禺区*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种基于层次性多注意力网络的文档分类方法，包括步骤：利用Bi‑GRU序列模型来对文档进行从词到句，句到文档建模；利用Bi‑GRU序列模型对每个词语进行编码，获取句子中的上下文信息，采用Soft attention来对每个词语进行注意力权重的分配；对于句子到文档这个过程，本发明引入CNN attention，利用CNN模型获取窗口内句子之间的局部相关特征，从而进一步得到每个句子的注意力权重。本发明能够根据文档特点从词到句，句到文档进行建模，充分考虑文档的层次性结构。同时，针对词语和句子级别，本发明分别采用不同的注意力机制来适当地对相关的内容进行权重的分配，从而提高文档分类的准确率。 | ||
| 搜索关键词： | 文档 句子 文档分类 注意力 层次性 权重 词语 序列模型 建模 上下文信息 注意力机制 句子级别 模型获取 准确率 分配 网络 引入 | ||
【主权项】：
1.基于层次性多注意力网络的文档分类方法，其特征在于，包括以下步骤：(1)利用Bi‑GRU模型对句子中每个词语依据其词向量进行编码，以获取词语间上下文信息；(2)引入Soft attention机制对句子中不同词语依据对应的编码进行注意力权重分配，以表示句子中不同词语的重要程度；(3)通过对句子中每个词语依据对应的编码和权重加权求和来获得句子的向量表示。(4)由句子的向量表示，利用Bi‑GRU模型对文档中每个句子进行编码，以获取句子间上下文信息；(5)引入CNN attention机制对文档中不同句子依据其编码进行注意力权重分配，以表示文档中不同句子的重要程度；(6)通过对文档中每个句子依据其编码和权重加权求和来获得文档的向量表示；(7)由获得的文档的向量表示，通过softmax函数输出最终的分类结果。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于华南师范大学，未经华南师范大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201811314237.1/，转载请声明来源钻瓜专利网。
- 上一篇：电力客服客户诉求智能识别方法
- 下一篇：基于数据对犯罪行为的多维度分析方法
