[发明专利]情感分类方法、装置、存储介质及计算机设备有效
申请号: | 202111000019.2 | 申请日: | 2021-08-30 |
公开(公告)号: | CN113449110B | 公开(公告)日: | 2021-12-07 |
发明(设计)人: | 燕泽昊;庞士冠;薛云 | 申请(专利权)人: | 华南师范大学 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F16/951;G06F40/211;G06F40/30;G06N3/04 |
代理公司: | 广州骏思知识产权代理有限公司 44425 | 代理人: | 吴静芝;叶琼园 |
地址: | 510006 广东省广州市番禺区*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 情感 分类 方法 装置 存储 介质 计算机 设备 | ||
1.一种情感分类方法,其特征在于,包括以下步骤:
利用预训练的BERT模型对输入文本进行编码,获取所述输入文本每一个单词的向量表示;
对所述输入文本进行句法依赖解析,获取所述输入文本的句法依赖关系;以向量表示作为图节点,以该向量表示对应的句法依赖关系作为边,生成每一个向量表示的句法图;
基于自注意力机制,获取向量表示的语义邻接矩阵,生成加权语义相似度图;其中,所述生成加权语义相似图的步骤包括:
按照以下方式,将所述向量表示映射到K个d维语义空间;
其中,为输入文本的向量表示,为第k个语义空间的向量表示,为第k个语义空间的向量表示对应的偏置向量,为第k个语义空间的向量表示对应的映射矩阵,为非线性激活函数;
按照以下方式,获取K个语义空间对应的语义邻接矩阵:
其中,为节点i和节点j的语义邻接矩阵,为预设阈值,为节点i在第k个语义空间的向量表示,为节点j在第k个语义空间的向量表示;
按照以下方式,获取加权相似度邻接矩阵:
其中,为节点i和节点j的加权相似度邻接矩阵,为节点i和节点j的注意力权重系数,按照以下方式获取:
其中,为节点i的注意力权重矩阵,为节点j的注意力权重矩阵,d为语义空间的维度,为的转置矩阵;
按照以下方式,获取加权语义相似图:
其中,为加权语义相似图, 为加权相似度邻接矩阵;
利用句法图卷积网络从所述句法图中提取句法信息,利用语义图卷积网络从所述加权语义相似度图中提取语义信息;利用交流模块交互融合所述句法信息和所述语义信息,获取融合后的句法信息和语义信息;
基于注意力机制提取所述句法信息和所述语义信息中目标词的句法特征和语义特征;
对所述句法特征和语义特征进行加权求和,获取联合特征;
将所述联合特征输入全连接层中进行情感分类,获取情感极性信息。
2.根据权利要求1所述的情感分类方法,其特征在于,所述生成每一个向量表示的句法图的步骤包括:
按照以下方式,生成句法图:
其中,为句法图,为输入文本的向量表示,为向量表示的邻接矩阵;
其中,为图节点i和图节点j的邻接矩阵,表示图节点i和图节点j之间存在依赖关系。
3.根据权利要求1所述的情感分类方法,其特征在于,所述利用句法图卷积网络从所述句法图中提取句法信息的步骤,包括:
按照以下方式,提取句法信息:
其中,为非线性激活函数,为句法图卷积网络第层提取的句法信息,为句法图卷积网络第层提取的句法信息,是的对称归一化邻接矩阵,是句法图卷积网络第层的权重矩阵,为单位矩阵,为向量表示的邻接矩阵;
所述利用语义图卷积网络从所述加权语义相似度图中提取语义信息的步骤包括:
按照以下方式,提取语义信息:
其中,为语义图卷积网络第层提取的语义信息,为语义图卷积网络第层提取的语义信息,为语义图卷积网络第层的权重矩阵,是的对称归一化邻接矩阵,为加权相似度邻接矩阵。
4.根据权利要求3所述的情感分类方法,其特征在于,所述获取融合后的句法信息和语义信息的步骤包括:
按照以下方式,获取融合后的句法信息:
其中,为融合后的句法信息,为语义图卷积网络第层提取的语义信息,为句法融合系数,按照以下方式获取:
其中,为句法图卷积网络第层提取的句法信息,为的转置矩阵,为句法融合权重矩阵,为句法融合偏置参数;
按照以下方式,获取融合后的语义信息:
其中,为融合后的语义信息,为语义融合权重系数,按照以下方式获取:
其中,为的转置矩阵,为语义融合权重矩阵,为语义融合偏置参数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华南师范大学,未经华南师范大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111000019.2/1.html,转载请声明来源钻瓜专利网。