[发明专利]基于自注意力机制的情感分类方法在审
申请号: | 201910573709.3 | 申请日: | 2019-06-28 |
公开(公告)号: | CN110347831A | 公开(公告)日: | 2019-10-18 |
发明(设计)人: | 姚全珠;祝元博;费蓉;赵佳瑜;吕鹏 | 申请(专利权)人: | 西安理工大学 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F17/27;G06N3/04 |
代理公司: | 西安弘理专利事务所 61214 | 代理人: | 王蕊转 |
地址: | 710048 陕*** | 国省代码: | 陕西;61 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于自注意力机制的情感分类方法,以双向长短期记忆神经网络模型为基础,结合自注意力机制构建SA‑BiLSTM模型,SA‑BiLSTM模型共包含五层结构:第一层为输入层,将句子输入到模型中;第二层为词向量构造层,将每个词映射到低维向量;第三层为Bi‑LSTM网络层,使用Bi‑LSTM从词向量层获取高级特征;第四层为自注意力机制层,生成一个权重向量,通过与这个权重向量相乘,使每一次迭代中的词汇级的特征合并为句子级的特征;第五层为输出层,将句子级的特征向量用于情感分类任务。本发明解决了现有技术中传统情感分类算法大多存在耗时长、训练难、人工成本高的问题。 | ||
搜索关键词: | 注意力机制 情感分类 权重向量 词向量 句子 相乘 记忆神经网络 高级特征 句子输入 人工成本 特征合并 特征向量 五层结构 一次迭代 第三层 第一层 构造层 输出层 输入层 网络层 低维 构建 向量 映射 算法 耗时 词汇 | ||
【主权项】:
1.基于自注意力机制的情感分类方法,其特征在于,具体按照以下步骤实施:以双向长短期记忆神经网络模型为基础,结合自注意力机制构建SA‑BiLSTM模型,SA‑BiLSTM模型共包含五层结构:第一层为输入层,将句子输入到模型中;第二层为词向量构造层,将每个词映射到低维向量;第三层为Bi‑LSTM网络层,使用Bi‑LSTM从词向量层获取高级特征;第四层为自注意力机制层,生成一个权重向量,通过与这个权重向量相乘,使每一次迭代中的词汇级的特征合并为句子级的特征;第五层为输出层,将句子级的特征向量用于情感分类任务。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于西安理工大学,未经西安理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910573709.3/,转载请声明来源钻瓜专利网。