[发明专利]一种隐多项式朴素贝叶斯文本分类方法及装置

摘要

本发明提供了一种隐多项式朴素贝叶斯文本分类方法及装置，为测试文档中出现的每个单词创建一个隐父亲节点，这个隐父亲节点综合了所有其他单词对该单词的影响。本发明避免了贝叶斯网络的结构学习，从而降低了由于文本数据的高维性带来的训练时间开销，同时本发明将多条件概率的估计过程推迟到了分类阶段，巧妙地节省了较大的空间开销。本发明提供的隐多项式朴素贝叶斯文本分类模型不仅改善了多项式朴素贝叶斯文本分类模型的分类精度，避免了贝叶斯网络结构学习的时间和空间开销，而且还是一种单一模型学习方法。

主权项

1.一种隐多项式朴素贝叶斯文本分类方法，包括训练阶段和利用训练阶段训练得到的模型进行分类的分类阶段，其特征在于，训练阶段包含如下步骤：(1‑1)利用以下公式计算训练文档集D中每个类别c的先验概率p(c)：其中，训练文档集D为一个已知的文档集，训练文档集D中的任意一篇文档d表示为单词向量形式d＝＜w₁,w₂,...w_m＞，其中w_i为文档d中的第i个单词，m为训练文档集D中所有单词的数目；n是训练文档集D中的文档数目，s是文档的类别数目，c_j是第j篇文档的类标记，δ(c_j,c)表示一个二元函数，当它的两个参数相同时值为1否则为0；(1‑2)利用以下公式计算给定类别情况下每个单词的条件概率p(w_i|c)：其中，f_ji表示训练文档集D中第j篇文档中出现单词w_i的频率；(1‑3)利用以下公式计算训练文档集D中每个单词w_t的信息增益率：其中，GainRatio(D,w_t)表示单词w_t划分训练文档集D的信息增益率，Gain(D,w_t)表示单词w_t划分训练文档集D的信息增益，SplitInfo(D,w_t)表示训练文档集D关于单词w_t的分裂信息；(1‑4)利用以下公式计算训练文档集D中的所有单词的平均信息增益率：(1‑5)利用以下公式计算训练文档集D中每个单词w_t的权值W_t，模型训练完毕：