[发明专利]一种基于字和词两个层面特征信息的文本分类方法

摘要

本发明公开了一种基于字和词两个层面特征信息的文本分类方法。步骤包括利用神经网络模型进行字词向量联合预训练，得到词语的初始化词向量和汉字的初始化字向量表示；将短文本表示成其中各个词语词向量组成的矩阵，利用卷积神经网络进行特征提取，得到词语层特征；将短文本表示成其中各个汉字字向量组成的矩阵，利用卷积神经网络进行特征提取，得到汉字层特征；将词语层特征和汉字层特征进行连接，得到短文本的特征向量表示；利用全连接层对文本进行分类，采用随机梯度下降法进行模型的训练，得到分类模型。本发明能够提取字的表示和词的表示两个层面的特征，改善短文本语义信息不足的问题，充分挖掘短文本的语义信息，使短文本的分类更加准确。

主权项

一种基于字和词两个层面特征信息的文本分类方法，其特征在于，所述方法包括以下步骤：A、利用神经网络对字词进行联合预训练，得到词语和字的初始化向量；B、将词语的词向量连接成矩阵，同时将字向量连接成矩阵，利用卷积核对词向量连接成矩阵和字向量连接成矩阵分别进行卷积操作提取对应的局部特征；C、利用最大池化操作提取步骤B中得到的词语层面局部特征的最优值和字层面局部特征的最优值；D、将步骤C中得到的词语层面特征向量与字层面特征连接，形成短文本的特征向量表示；E、利用全连接神经网络对短文本进行分类，使用随机梯度下降算法对模型参数进行训练，得到分类模型和调整之后的字向量和词向量；F、将需要分类的新的短文本输入模型进行分类，得到分类结果。