[发明专利]基于语境引导注意力的方面级情感分类方法及系统在审
申请号: | 202310560641.1 | 申请日: | 2023-05-16 |
公开(公告)号: | CN116610800A | 公开(公告)日: | 2023-08-18 |
发明(设计)人: | 刘祥志;仪佳;吴晓明 | 申请(专利权)人: | 山东省计算中心(国家超级计算济南中心);齐鲁工业大学(山东省科学院);山东山科智能科技有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F16/33;G06F40/30;G06F40/211;G06N3/042;G06N3/0464;G06N3/08 |
代理公司: | 济南圣达知识产权代理有限公司 37221 | 代理人: | 黄海丽 |
地址: | 250000 山*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 语境 引导 注意力 方面 情感 分类 方法 系统 | ||
本发明公开了基于语境引导注意力的方面级情感分类方法,获取待分类的句子和句子对应的方面词;对获取数据分别进行词嵌入表示的提取,得到句子和方面词的词嵌入表示;对两种词嵌入表示分别进行向量提取,得到两种词嵌入隐藏状态向量;构建语义图卷积网络;构建句法图卷积网络;将两种词嵌入隐藏状态向量,输入到语义图卷积网络中,输出语义表示;将两种词嵌入隐藏状态向量,输入到句法图卷积网络中,输出句法表示;将两种表示进行聚合操作,得到两方面节点隐藏状态向量;分别对两方面节点隐藏状态向量进行平均池化操作,然后对平均池化操作的两个结果进行级联操作得到最终特征;对最终特征给出情感概率分布,进而得到情感分类标签。
技术领域
本发明涉及自然语言处理技术领域,特别是涉及基于语境引导注意力的方面级情感分类方法及系统。
背景技术
本部分的陈述仅仅是提到了与本发明相关的背景技术,并不必然构成现有技术。
基于方面的情感分析是一个重要的细粒度情感分析任务,目标是预测句子中的方面词的情感极性。相较于传统的粗粒度情感分析而言,细粒度的情感分析对于实际应用有更大的意义。
先前的研究已经使用基于注意力机制的神经网络模型来建模方面词与其上下文之间的关系并生成特定于方面的句子表示。尽管这种方法得到了不错的结果,但是注意力机制本身存在的缺陷会给无关的单词分配错误的值从而产生噪声影响实验结果。
研究基于方面的情感分析的另一条路线是对句子的句法结构建模进行预测。最近的许多研究使用图卷积网络在句子的依赖树上工作,它们利用了句子的句法结构。与基于注意力的模型相比,此类模型有许多改进。然而,当将句法依赖知识应用于ABSA任务时,会出现两个问题。首先,因为一些特定数据集中(例如Twitter数据集)包含非正式表达和一些复杂没有明显句法结构的在线评论,这就导致依赖树上的GCNs在对这样的数据集上不能像预期的那样工作。此外,并非所有依赖树的信息对本发明的任务都是有效的,如果在此基础上继续使用注意力机制就会造成二次噪声。
比如,对于句子“The environment is romantic but the food is horrible”。对于方面词“environment”来说,情绪极性是积极的,但方面词“food”的情绪极性是消极的。这就需要模型有效地捕获句子中每个方面的上下文信息。
发明内容
为了解决现有技术的不足,本发明提供了基于语境引导注意力的方面级情感分类方法及系统;能够避免注意力机制本身的产生的噪声影响并且能够提取丰富的句法信息,同时,对提取的句法和语义信息进行交互,提高了在不同数据集上对方面词情感判断的准确性和稳定性。
第一方面,本发明提供了基于语境引导注意力的方面级情感分类方法;
基于语境引导注意力的方面级情感分类方法,包括:
获取待分类的句子和所述句子对应的方面词;
将获取的数据,输入到训练后的方面级情感分类模型中,输出方面级情感分类结果;其中,训练后的方面级情感分类模型,包括:对待分类的句子和方面词分别进行词嵌入表示的提取,得到句子的词嵌入表示和方面词的词嵌入表示;对句子的词嵌入表示和方面词的词嵌入表示分别进行向量提取,得到句子的词嵌入隐藏状态向量和方面词的词嵌入隐藏状态向量;基于语境引导注意力机制,构建语义图卷积网络;同时,构建句法图卷积网络;将句子的词嵌入隐藏状态向量和方面词的词嵌入隐藏状态向量,输入到语义图卷积网络中,输出语义表示;将句子的词嵌入隐藏状态向量和方面词的词嵌入隐藏状态向量,输入到句法图卷积网络中,输出句法表示;将语义表示和句法表示进行聚合操作,得到第一方面节点隐藏状态向量和第二方面节点隐藏状态向量;分别对第一方面节点隐藏状态向量和第二方面节点隐藏状态向量进行平均池化操作,然后对平均池化操作的两个结果进行级联操作得到最终特征;最后,对最终特征给出情感概率分布,进而得到情感分类标签。
第二方面,本发明提供了基于语境引导注意力的方面级情感分类系统;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于山东省计算中心(国家超级计算济南中心);齐鲁工业大学(山东省科学院);山东山科智能科技有限公司,未经山东省计算中心(国家超级计算济南中心);齐鲁工业大学(山东省科学院);山东山科智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310560641.1/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种GIS母线状态控制方法
- 下一篇:一种电力杆塔及其施工方法