[发明专利]一种基于卷积神经网络的文本增强语义分类方法及系统

权利要求书

1.一种基于卷积神经网络的文本增强语义分类方法，其特征在于，包括以下步骤：

S1：收集训练样本

通过网络爬虫方法对目标网站上的文章进行爬取，并基于文章内容进行人工分类标签标注，把标注标签、文章标题和文章正文作为训练样本分别储存在数据库中；

S2：预处理

对数据库中的文章标题和文章正文内容进行去重复，去非中文文本噪声预处理；

S3：分词

对经预处理后的文章标题和文章正文使用分词工具进行分词，并将分词的结果分别存入数据库，同时统计文章正文和文章标题分词后的词频信息；

S4：构建分词矩阵

将分别在文章标题和文章正文中出现频率高于阈值的词语转化成词向量，并以词频为权重分别组建文章标题和文章正文的词向量矩阵，然后将作为训练样本的文章标题和文章正文的词向量矩阵进行组合，把组合后的矩阵和分类标签对应储存到数据库中；

S5：数据增强

统计各个分类标签下的训练样本数量，并对数量少的样本进行数据增强，数据增强方式为将组合矩阵的文章标题和文章正文部分的非零向量进行随机排序，生成一定数量的新组合矩阵，新组合矩阵加上原来的分类标签即经过增强的新训练样本；

S6：利用模型进行训练

构建卷积神经网络模型，将步骤S5中得到的经过增强后的训练样本代入卷积神经网络模型进行训练。

2.根据权利要求1所述的一种基于卷积神经网络的文本增强语义分类方法，其特征在于：在所述步骤S2中，预处理包括去除部分样本在爬取时同时爬取的无关推送的短标题连接，并在此基础上去除噪声字词，噪声字词包括标点符号，英文字母，人称代词，数字，年月日。

3.根据权利要求1所述的一种基于卷积神经网络的文本增强语义分类方法，其特征在于：在所述步骤S3中，词频信息包括词频的中、位数、众数、最大值和最小值；在所述步骤S4中，词向量矩阵需要统一维度，不足时需要进行补零操作。

4.根据权利要求1所述的一种基于卷积神经网络的文本增强语义分类方法，其特征在于：在所述步骤S5中，词向量矩阵中的标题词向量和正文词向量中分别进行随机排序并组合成新的增强文本词向量矩阵。

5.根据权利要求1所述的一种基于卷积神经网络的文本增强语义分类方法，其特征在于：在所述步骤S6中，卷积神经网络模型的具体结构如下：

第一层为卷积运算层，将词向量矩阵作为输入，与卷积核进行卷积运算，得到降维后的特征映射；

第二层为池化层，使用最大池化，即用卷积运算后得到的矩阵中的相邻矩形区域内的最大值组成输出矩阵中，得到提取出特征并降维的矩阵；

第三层为卷积运算层，将上一层池化运算获得的矩阵继续进行卷积运算降维；

第四层为池化层，将上一层卷积运算后获得的矩阵继续提取出特征并降维的矩阵；

第五层为全连接层，将上一层池化运算后得到的特征映射的矩阵映射到样本标签空间中。

6.根据权利要求5所述的一种基于卷积神经网络的文本增强语义分类方法，其特征在于：全连接层的输出单元数为分类标签数。

7.根据权利要求1所述的一种基于卷积神经网络的文本增强语义分类方法，其特征在于：在所述步骤S6中，利用卷积神经网络模型进行训练的过程，包括以下步骤：

S61：进行卷积运算

通过设置卷积核的大小，提取文本矩阵中的词向量的空间特征；

S62：进行池化运算

进一步提取文本的特征，得到降维后的短文本的全局特征矩阵；

S63：修改参数重复运算

修改卷积核的大小，重复步骤S61和S62，至少一次，并根据需要选择是否对文本特征矩阵外圈进行填零处理；

S64：过滤并输出结果

将经过步骤S63处理后的矩阵输入全连接层展开成为一维向量，通过使用线性整流函数进行过滤，再利用Softmax函数对语义分类标签结果进行输出。