[发明专利]一种基于语法结构与连接信息触发的复杂句情感分析方法在审
申请号: | 202111597320.6 | 申请日: | 2021-12-24 |
公开(公告)号: | CN114282530A | 公开(公告)日: | 2022-04-05 |
发明(设计)人: | 陈少杰;曹冬林;林达真 | 申请(专利权)人: | 厦门大学 |
主分类号: | G06F40/253 | 分类号: | G06F40/253;G06F40/242;G06F40/211;G06F40/30;G06N3/04;G06N3/08 |
代理公司: | 厦门南强之路专利事务所(普通合伙) 35200 | 代理人: | 马应森 |
地址: | 361005 福建*** | 国省代码: | 福建;35 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 语法 结构 连接 信息 触发 复杂 情感 分析 方法 | ||
1.一种基于语法结构与连接信息触发的复杂句情感分析方法,其特征在于包括以下步骤:
1)构建连词信息触发的情感层次模型;
2)使用迁移学习方法对子句子编码器进行预训练;
3)情感划分模块将复杂句子划分为多个简单的情感模块;
4)子句编码器对每个情感模块单独进行编码,分别生成情感表达;
5)句子编码器融合多个情感模块,并根据基于连接信息触发的注意机制指导多个情感模块的融合。
2.如权利要求1所述一种基于语法结构与连接信息触发的复杂句情感分析方法,其特征在于在步骤1)中,所述连词信息触发的情感层次模型由4个主要模块构成,分别为情感划分模块、子句编码器、句子编码器、连接信息触发的注意力机制;情感划分模块用于负责对复杂长句进行情感模块划分;所述子句编码器用于对每个情感模块进行编码;所述句子编码器用于获取每个情感模块的上下文信息,并进行文本序列上的融合;所述连接信息触发的注意力机制用于利用连接信息进行多个情感模块的融合,并突出主要极性。
3.如权利要求2所述一种基于语法结构与连接信息触发的复杂句情感分析方法,其特征在于所述连接信息包括标点符号或连接词。
4.如权利要求1所述一种基于语法结构与连接信息触发的复杂句情感分析方法,其特征在于在步骤2)中,所述迁移学习方法,是将简单句的知识应用于复杂句;对于中文,使用现有的微博情感数据集来对子句编码器进行再次训练,微博情感数据集由简单句组成;复杂句中的每个情感模块都可以被类比为一个只有单一情感表达的简单句,经过预训练后,子句编码器能更好地捕捉到单个情感模块的情感信息。
5.如权利要求1所述一种基于语法结构与连接信息触发的复杂句情感分析方法,其特征在于在步骤3)中,所述情感划分模块将复杂句子划分为多个简单的情感模块,是利用复杂句的连接词与标点符号,将复杂句子划分为多个情感模块,每个情感模块通常包含直接和单一的情感表达。
6.如权利要求1所述一种基于语法结构与连接信息触发的复杂句情感分析方法,其特征在于在步骤3)中,所述情感划分模块将复杂句子划分为多个简单的情感模块的具体步骤包括:
(1)输入复杂长句S={w1,…,wi,…,wn},其中wi代表第i个字符;
(2)收集中文和英文语料库中常用的连词和标点符号,并将它们作为连接信息编入字典;当一个复杂句包含字典中的连接信息T时,复杂句S由该信息连接的两个部分将被划分为两个单独的情感模块;最终S通常被划分为多个情感模块S‘={M1,M2,...,Mk},其中Mi={wp,...,wq},以及连接信息T={t1,t2,...,tk-1}。
7.如权利要求1所述一种基于语法结构与连接信息触发的复杂句情感分析方法,其特征在于在步骤4)中,所述子句编码器对每个情感模块单独进行编码,分别生成情感表达的具体步骤为:
使用子句编码器的预训练语言模型(BERT)来提取每个情感模块的表征为了选择句子中比较重要的情感模块,使用句子编码器的时间序列模型(BI-LSTM)来捕捉情感模块间的交互信息;
Hm=TimeModel(Fm;θtim) (2)
其中,θ代表模型参数;
最后,使用池化的方法来融合所有的情感模块,生成整个复杂句的表示Fs;
8.如权利要求1所述一种基于语法结构与连接信息触发的复杂句情感分析方法,其特征在于在步骤5)中,所述句子编码器融合多个情感模块,并根据基于连接信息触发的注意机制指导多个情感模块的融合的具体步骤为:
使用额外的预训练语言模型对复杂句中的每一个连接信息进行编码,并使用全局最大池化获取连接信息的表示Fo;
基于连接信息触发的注意力机制结合句子本身的语义信息来融合复杂句中所有的情感信息,并突出句子中主要的情感极性,最终得到句子基于连词信息的表征Fs′;
在得到句子本身的表征Fs以及基于连词的表征Fs之后,将这两种表征进行有机的结合,获得了复杂句最终的表征Fz;
将得到的句子表征和基于连接信息的表征连接起来,并将他们投射到一个低维空间
其中,ReLU是激活函数;
最后,融合表征Fz被用来预测输入句子的情感极性;其中,是线性层的权重;是模型的输出,即为预测的情感极性。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于厦门大学,未经厦门大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111597320.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种微型柔性电极阵列及测试方法
- 下一篇:基于物联网的智慧城市安防系统