[发明专利]一种短文本分类方法、终端设备及存储介质

说明书

本发明涉及一种短文本分类方法、终端设备及存储介质，该方法中包括：S1：采集多个文本数据并进行特征提取后组成训练集；S2：分别构建基于卷积神经网络和循环神经网络的多个分类模型，计算每个分类模型对训练集中各样本的输出概率；S3：构建三个模型集；S4：根据KS值筛选三个模型集中的两个合并为融合模型库I；S5：设定融合模型库I的样本预测值计算公式；S6：设定损失函数loss；S7：通过训练集对融合模型库I进行迭代训练，通过调整权重参数w₁和w₂，使得损失函数loss的值最小；S8：通过训练后的融合模型库I对待分类文本数据进行分类。本发明针对短文本数据稀疏、噪声大等问题，通过模型融合策略，有效提高模型应对新数据领域的适应能力。

技术领域

本发明涉及文本分类领域，尤其涉及一种短文本分类方法、终端设备及存储介质。

背景技术

随着互联网的迅速发展及电子社交媒体的深入应用，各类社交平台越来越广泛地受到用户的青睐，如论坛、微博、微信等。伴随着用户上网行为产生了海量文本数据并呈现爆炸式地增长，数据内容常为片段性描述说明或观点评论，其中短文本是该类数据常用的重要形式。

短文本的长度一般在200字符左右，与传统文本相比，短文本具有如下特征：1)文本长度较小；2)稀疏性强；3)实时性强且规模大；4)文本格式不标准。短文本的文本较短和稀疏特性，导致其通常不能提供足够的上下文信息，从而使许多基于词频、字同现频率的传统机器学习模型不能有效地提取短文本特征，给传统文本挖掘算法和技术带来了巨大挑战。传统的文本表示方法表征能力弱，缺乏词序、语法等文档结构信息，存在数据高维稀疏问题，对短文本分类效果的提升存在瓶颈。

针对短文本的分类方法，包括传统的机器学习算法和近几年流行的深度学习算法。传统的机器学习方法，如朴素贝叶斯算法、支持向量机等，忽略了词与词之间的关系以及句子和句子的关系，对高维数据的处理和泛化能力都比较差；深度学习方法有效解决了浅层结构算法对复杂函数表示能力有限等问题，然而，在短文本计算任务中还未见突破性研究进展。并且深度网络层次结构复杂，内部包含了大量可调节的配置参数，训练一版最优的可用模型需要研究人员预先设置妥当，要经验丰富的专业人员参与。另外，深度网络参数调节的过程往往缺乏可靠的理论支持，更多的是依赖于研究人员的经验来猜试，具有很大的随机性并且耗时耗力。实验结果证明，单一的深度学习模型往往并不能带来最理想结果，需要融合多种方法进行特征信息互补，以此达到模型优化和提升模型预测精度的目的。

发明内容

为了解决上述问题，本发明提出了一种短文本分类方法、终端设备及存储介质。

具体方案如下：

一种短文本分类方法，包括以下步骤：

S1：采集多个文本数据并进行特征提取后组成训练集；

S2：分别构建基于卷积神经网络和循环神经网络的多个分类模型，并通过训练集进行训练后，计算每个分类模型对训练集中各样本的输出为正例样本的概率和负例样本的概率；

S3：将所有基于卷积神经网络的分类模型作为模型集1，将所有基于循环神经网络的分类模型作为模型集2，将所有分类模型作为模型集3；

S4：根据KS值筛选三个模型集中的两个模型集合并为融合模型库I，设定融合模型库I中的两个模型集分别为模型集I₁和模型集I₂；

S5：设定通过融合模型库I的样本预测值f(x_i)的计算公式为：