[发明专利]一种基于N-gram向量和卷积神经网络的中文文本多分类方法

摘要

本发明涉及一种基于Ngram向量和卷积神经网络的中文文本多分类方法，属于文本多分类的技术领域。针对文本多分类的效果并不十分理想的问题，本发明基于CNN框架，提出了一种初始化CNN滤波器系数的方法，在一定程度上取得较好的文本分类效果。首先对待分类语料进行词向量训练；然后挑选出对特定类别最为重要的n‑gram，并将聚类后的n‑gram质心向量作为初始的滤波器系数；使用uni‑gram、bi‑gram和tri‑gram的质心分别嵌入到宽度为3、4和5的滤波器中心。初始化系数能更有效的抽取出代表不同类别的n‑gram，最终改善文本分类效果。实验在两个公共的中文数据集上进行，包括搜狗新闻数据集和复旦大学中文语料，本发明方法同比一些文本分类技术，在评价指标上表现了优势。

主权项

1.一种基于N‑gram向量和卷积神经网络的中文文本多分类方法，其特征在于：包括以下步骤：Step1：文本预处理：首先针对中文文本，进行中文分词及文本去噪；然后对文本分别进行一元、二元、三元标注，分别得到unigram，bigram，trigram，即n‑gram；Step2：特征选择：计算文本语料中每个n‑gram在本类别中所占的比重r，对r降序排序，接着对按照特定的挑选规则选择出来的n‑gram进行glove词向量的表达；最后把glove词向量表达后的n‑gram进行kmeans聚类，得到每一类n‑gram的中心词向量；Step3：初始化卷积核参数：用Step2得到的n‑gram的中心词向量进行初始化卷积核参数，训练文本分类模型，最后得出多分类结果，采用十折交叉验证的方法对模型评估。