[发明专利]一种Bagging_BSJ短文本分类方法

摘要

一种Bagging_BSJ短文本分类方法。短文本具有高稀疏性，实时性，不规范性等特点，已有的传统文本分类算法应用于短文本分类时，受奇异数据影响较大，难以取得较好的效果。本发明方法针对短文本的高稀疏性，实时性等特点，提出了基于集成思想的短文本分类方法。将该方法采用Bagging集成算法思想，对短文本进行语义特征扩展，并结合贝叶斯算法，支持向量机算法以及J48算法，对语义特征扩展后的短文本进行分类，得到了更好的分类效果。本文提出的Bagging_BSJ方法其准确率提高了12％，召回率提高了28％，F值提高了20％。

主权项

一种Bagging_BSJ短文本分类方法，其特征在于该方法主要包括如下关键步骤：第1、基于维基百科知识库的WLA短文本语义特征扩展；第1.1、相关特征抽取，对于给定特征词项，通过消歧义和重定向将该特征词项映射到对应的维基百科页面中，提取页面文本信息，并对这些文本信息进行去噪处理，得到一组由词项组成的特征向量，该特征向量中的元素为特征词项的备选扩展词项；第1.2、语义关系量化，通过WLA(Wikipedia Links and Abstract)算法进行语义关系计算，定量描述给定特征词项与第1.1步得到的备选扩展词项之间的语义关联程度；第1.3、经过相关特征抽取、词项间语义关系量化之后，为每个给定的主题特征词项构建相应的特征扩展词项向量Ct{(c1,r1),(c2,r2),…,(ck,rk)}，其中ci、i＝1,2,…,k，是与主题特征词项t相关的备选扩展词项，ri、i＝1,2,…,k，表示ci与t之间的语义相似度，将这些词项向量作为下面短文本分类时的样本；第2、基于集成思想的Bagging_BSJ短文本分类算法；第2.1、假设训练集S＝{(x1,y1),(x2,y2),…,(xm,yn)}中含有m篇文章n种类别，其中xi为训练样本，yj为xi所对应的类别标签；第2.2、利用有放回的抽样技术分别从训练集S中抽取Z1个、Z2个、Z3个训练样本子集，每个子集中均含有g个样本；第2.3、以朴素贝叶斯为基分类器的Bagging分类器对前Z1个子集进行训练，训练出的模型记为类似的，中间的Z2个子集和最后的Z3个子集分别以支持向量机和J48为基分类器进行训练，得到的分类模型分别记为和用该方法训练得到Z1+Z2+Z3个分类器；第2.4、分类过程是将2.3训练得到的分类模型Hi、i＝1,2,…,Z1+Z2+Z3，均作用于待分类样本，并借助于投票算法对分类结果进行集成处理，从而判断出新样本类别；即：