[发明专利]一种基于CNN的中文关系分类方法及系统在审
申请号: | 201910928313.6 | 申请日: | 2019-09-28 |
公开(公告)号: | CN110750642A | 公开(公告)日: | 2020-02-04 |
发明(设计)人: | 王德庆;张辉;田润琦;郝瑞 | 申请(专利权)人: | 北京航空航天大学 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F16/33;G06N3/08;G06N3/04 |
代理公司: | 11381 北京汲智翼成知识产权代理事务所(普通合伙) | 代理人: | 陈曦;贾兴昌 |
地址: | 100191*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 矩阵 句子 注意力机制 输入矩阵 特征向量 词向量 语义 分类效果 关键词语 关系分类 关系类型 距离向量 连接层 卷积 加权 拼接 主流 概率 中文 | ||
1.一种基于CNN的中文关系分类方法,其特征在于包括如下步骤:
将句子的词向量矩阵、实体距离向量矩阵,以及通过注意力机制加权的词向量矩阵进行拼接得到CNN的输入矩阵;
将输入矩阵输入到CNN的卷积层,得到句子的特征向量;
将句子的特征向量输入CNN的全连接层,得到每个关系类型的概率。
2.如权利要求1所述的基于CNN的中文关系分类方法,其特征在于将句子的词向量矩阵、实体距离向量矩阵,以及通过注意力机制加权的词向量矩阵进行拼接得到CNN的输入矩阵,包括如下步骤:
将标注好实体的句子进行分词,得到词语序列;并将词语序列转化成词向量矩阵;
计算句子中每个词语分别到两个实体距离的实体距离向量PF 1和PF2,将得到的实体距离向量进行拼接,构成实体距离向量矩阵;
根据词向量矩阵以及SDP权重序列得到添加注意力机制的词向量矩阵;将句子的词向量矩阵、实体距离向量矩阵,以及通过注意力机制加权的词向量矩阵进行拼接得到CNN的输入矩阵。
3.如权利要求2所述的基于频谱解析的音频可视化方法,其特征在于根据词向量矩阵以及SDP权重序列得到添加注意力机制的词向量矩阵;包括如下步骤:
根据语义依存分析抽取出句子中语义依存关键路径上的词语,并给所述语义依存关键路径上的词语赋予词语权重,得到SDP权重序列;
根据SDP权重序列对词向量矩阵进行加权,得到加权后的词向量矩阵。
4.如权利要求3所述的基于CNN的中文关系分类方法,其特征在于根据SDP权重序列对词向量矩阵进行加权,得到加权后的词向量矩阵,包括如下步骤:
建立句子中的每个词和关系类型之间关联程度的关联矩阵;
引入SDP权重序列,得到最终的权重输出;
通过最终的权重输出对词向量矩阵进行加权,得到加权后的词向量矩阵。
5.如权利要求4所述的基于CNN的中文关系分类方法,其特征在于在建立句子中的每个词和关系类型之间关联程度的关联矩阵,采用如下公式:
首先,本文需要建立句子中的每个词和关系类型之间关联程度的关联矩阵T,在这里WF记为Wf:
T=WfU1Wc;
其中,Wf为词向量矩阵;U1为要接受学习的权值矩阵;T为词语和关系类型的关联矩阵,Wc为关系类型表示的向量矩阵。
6.如权利要求4所述的基于CNN的中文关系分类方法,其特征在于在:
建立句子中的每个词和关系类型之间关联程度的关联矩阵;
引入SDP权重序列,
得到最终的权重输出之后,通过缩放因子去除噪声的影响,采用如下公式:
h=Wsdp+μR;
其中,μ为缩放因子;h为每个词的最终权重;R为句子中每个词语的权值;Wsdp为句子中每个词语的权重。
7.如权利要求6所述的基于CNN的中文关系分类方法,其特征在于:
通过最终的权重输出对词向量矩阵进行加权是使用每个词的最终权重的对角矩阵对词向量矩阵WF进行加权,得到加权后的词向量矩阵。
8.如权利要求1所述的基于CNN的中文关系分类方法,其特征在于将输入矩阵输入到CNN的卷积层,得到句子的特征向量;包括如下步骤:
将输入矩阵通过卷积窗口为1的过滤器,对输入的数据进行频道过滤,仅保留有效频道的数据;
将过滤后的输入矩阵分别输入4种不同大小的卷积窗口进行卷积,卷积核数量随着窗口数的增大依次下降,并对输出的数据进行激活;
对于每个频道上的多个数据,采用最大池化的方案进行池化,保留每个频道最重要的特征值;
通过特征值拼接,得到输入矩阵的特征向量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京航空航天大学,未经北京航空航天大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910928313.6/1.html,转载请声明来源钻瓜专利网。