[发明专利]基于位置门控递归神经网络的属性级文本情感分类方法在审
申请号: | 202210638122.8 | 申请日: | 2022-06-08 |
公开(公告)号: | CN114996454A | 公开(公告)日: | 2022-09-02 |
发明(设计)人: | 白庆春;肖君;王腊梅 | 申请(专利权)人: | 上海开放大学 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06N3/04;G06N3/08;G06K9/62;G06F40/30;G06F40/289;G06F40/211 |
代理公司: | 上海得民颂知识产权代理有限公司 31379 | 代理人: | 陈开山 |
地址: | 200433 *** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 位置 门控 递归 神经网络 属性 文本 情感 分类 方法 | ||
1.一种基于位置门控递归神经网络的属性级文本情感分类方法,其特征在于,包括以下步骤:
基于位置门控递归神经网络的属性级文本情感特征提取;
基于位置门控递归神经网络的属性级文本情感分类。
2.根据权利要求1所述的基于位置门控递归神经网络的属性级文本情感分类方法,其特征在于,基于位置门控递归神经网络的属性级文本情感特征提取包括以下步骤:
对评论文本进行属性级情感数据构建,将属性级情感分类预料库与人工构建预料结合,从目标文本中自动抽取属性词,标注正负例,得出训练样本数据;
对训练样本数据进行特征提取,首先引入单词嵌入模型,得到单词的向量表示,并将单词向量表示拼接成句子的表示,同时,将文本中属性词的位置信息进行建模,拼接输入神经网络模块;
建立用于基于属性的情感分类的位置递归神经网络,针对给定的属性词,以不同的方式集成局部表示和全局的句子表示;将位置向量集成到循环神经网络模型中,融合句子建模后的句子级别隐向量表示和注意权重参数,计算出词的属性级别情感分布;
执行注意力权重计算模块,分别计算词和位置的注意力权重,针对不同的权重得到注意力表示和全局表示不同级别的句子表示。
3.根据权利要求1所述的基于位置门控递归神经网络的属性级文本情感分类方法,其特征在于,基于位置门控递归神经网络的属性级文本情感分类包括以下步骤:
执行位置级别的字嵌入,输入的文本信息包含句子中属性词语的位置向量并嵌入到单词的语义词向量中,通过将输入的位置向量附加到句子的隐含状态中,位置向量以隐藏状态进行叠加,其中,位置词向量映射过程中考虑到属性词位置的影响函数;
执行循环神经网络模型,将位置和词的向量映射输入到循环神经网络中,建模句子序列的全局表示模型;
执行句子表示模块,对给定的属性词相关的重要词语和句子的全局情绪信息进行动态调整注意和全局表示的权重。
利用训练得到的分类器参数,对其他评论文本数据进行属性词抽取,再进行情感标签类别预测。
4.一种针对文本进行情感特征提取分析组件,其特征在于,包括如下功能模块:
句子建模表示模块,其为给定的句子提供不同的方式集成局部和全局的句子向量表示的方法,利用词向量映射获取句子的向量表示操作;
注意力机制的情感驱动模块,其在所述句子建模表示模块的基础上,进一步抽象,通过使用位置向量集成到RNN模型中,并采用单词嵌入、隐藏状态和注意机制增强句子的局部和全局表示。
5.一种针对文本进行情感特征提取分析方法,其特征在于,包括如下步骤:
针对不同文本的特征,提供位置词嵌入、位置隐藏状态和位置注意力三部分,并增强注意力表征和全局表征;
利用动态门机构控制模型的局部和全局注意力;
通过核函数将位置向量集成于情感特征分析模型中,将给定属性词语的位置分布信息建模,并进一步通过表征吸收门支持动态调整注意力权重和全局表征的权重。
6.一种基于支持对文本进行情感特征提取分析的框架模型,其特征在于,包括:全局表示模块、注意力模块、门吸收模块和情感分析模块;
所述全局表示模块以循环神经网络作为基本模块,发送文本输入到循环神经网络中,得到句子的表示向量,再将句子表示输入到注意力模块;
所述注意力模块对接收到的句子向量表示与位置信息进行交互,使用高斯核对纵横比位置信息进行建模,通过核函数计算属性词与句子词语位置相关性,并将包含来自输入位置信息的句子表示输入到门吸收模块;
所述门吸收模块,通过设计门机制将给定方面相关的重要词语和句子的全局情绪信息进行动态注意力调整,以控制注意力表示和全局表示的通过比例,并将最终句子表示输入到情感分析模块;
所述情感分析模块,通过将位置注意和全局的句子表示向量连接,输入神经网络全连接层,并添加激活函数层,计算句子情感分布。
7.一种文本分类推理方法,其特征在于,包括如下步骤:
选择文本情感分析模型驱动,对原始模型进行封装,实现对文本的自动分析,提供情感分析操作的应用执行接口;
客户端将文本数据发送至所述文本进行情感特征提取分析的框架模块将外部发送的文本进行分析处理,分析后的模型考虑模型并发性,并封装成端口,转发给查询模块;
服务端请求语义分析及情感推理,并根据后端的情感处理标签返回界面显示。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海开放大学,未经上海开放大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210638122.8/1.html,转载请声明来源钻瓜专利网。