[发明专利]一种基于二分法的优化CART决策树生成方法及其装置

权利要求书

1.一种基于二分法的优化CART决策树生成方法，其特征在于，包括如下步骤：

预处理步骤：对数据进行预处理，输入二维数据集；

属性分裂步骤：对所述数据集中某一属性的数据进行分裂，分裂的属性选择度量为使用二分法优化的基尼指数；将满足条件的数据分裂给左子树，否则分裂给右子树；

决策树建树步骤：重复所述属性分裂步骤，直到最终分裂数据点的基尼指数小于预设的基尼指数阈值，停止分裂，形成决策树；

剪枝步骤：以极小化整体损失函数采用递归的方法进行剪枝，生成最终的决策树。

2.根据权利要求1所述的基于二分法的优化CART决策树生成方法，其特征在于：

在所述属性分裂步骤中，将某一属性的数据按照升序或降序排列，对所述排列后的数据进行二分，并计算所述二分后的数据点的基尼指数；将小于等于二分点的数据分裂给左子树，大于二分点的数据分裂给右子树。

3.根据权利要求1或2所述的基于二分法的优化CART决策树生成方法，其特征在于：在所述决策树建树步骤中，选择基尼指数小的数据继续进行二分，重复所述属性分裂步骤若干次，直到最终分裂数据点的基尼指数小于预设的基尼指数阈值。

4.根据权利要求1或2所述的基于二分法的优化CART决策树生成方法，其特征在于：所述基尼指数的计算公式如公式(1)所示：

Gini=1-Σi=1mPi2---(1)]]>

其中，P_i是数据集中属于第i个类的概率，对m个类计算和；

假设分裂前数据集为D，分裂后的左右两个子树对应集合D_L和D_R，分裂后的基尼指数定义如公式(2)所示：

G=|DL||D|Gini(DL)+|DR||D|Gini(DR)---(2)]]>

其中，|*|表示数据的数量。

5.根据权利要求3所述的基于二分法的优化CART决策树生成方法，其特征在于：

重复所述属性分裂步骤的次数根据公式(3)确定：

K＝[log₂n]+1 (3)

其中，K表示重复所述属性分裂步骤的次数，[]表示对log₂ n取整，n是初始数据集的数量。