[发明专利]改进梯度提升决策树性能的方法及计算机可读存储介质

权利要求书

1.一种改进梯度提升决策树性能的方法，其特征在于，包括如下步骤：

S1：训练基于梯度提升决策树的集成分类器，包括：

构建训练数据和训练参数，所述训练数据包括带有标签的训练数据集和数据的特征集合，所述训练参数包括集成梯度提升决策树的数量和标签的翻转率；

利用所述标签翻转率，采用标签翻转技术对所述训练数据集进行预处理得到预处理后的训练数据集；采用标签翻转技术对所述训练数据集进行预处理，包括：

利用所述标签翻转率计算所述训练数据集的标签的概率转移矩阵；

根据所述带标签的训练数据集得到新的训练数据集；

利用所述概率转移矩阵对所述新的训练数据集进行标签翻转得到所述预处理后的训练数据集；

采用非对称方式计算所述训练数据集的概率转移矩阵；

得到所述训练数据集的概率转移矩阵的公式如下：

P_i←i＝1-fr

其中，K是标签类别的数目，i是样本在训练数据集中的类别标签，j是该样本翻转后的类别标签，P_j←i是将i的类别标签翻转到标签j的概率，fr是标签翻转率，P_i←i是i的类别标签翻转到标签i的概率；

根据所述数据的特征集合和所述预处理后的训练数据集训练得到作为基学习器的梯度提升决策树；得到作为基学习器的梯度提升决策树包括：

每一个结点分裂时，从所述结点的可选特征集合中随机保留一定数量的特征组成特征子集；

从所述特征子集中选取最优特征和值进行结点分裂；

所述结点的可选特征集合中包括d个特征，选择k个特征组成所述特征子集，k的取值为：

k＝log₂d

或，

采用加和的方式将所述基学习器进行组合得到基于梯度提升决策树的集成分类器；

S2：利用所述集成分类器对新的分类样本进行分类并给出新样本的预测标签。

2.如权利要求1所述的改进梯度提升决策树性能的方法，其特征在于，根据所述带标签的训练数据集得到新的训练数据集包括：

复制所述训练数据集得到所述新的训练数据集；

或，使用抽样方法从所述训练数据集得到所述新的训练数据集。

3.如权利要求1-2任一所述的改进梯度提升决策树性能的方法，其特征在于，采用并行的方式训练得到作为基学习器的梯度提升决策树。

4.如权利要求1-2任一所述的改进梯度提升决策树性能的方法，其特征在于，由多数投票法给出所述样本的预测标签。

5.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1-4任一所述方法的步骤。