[发明专利]基于粒子群优化的双准确度加权随机森林算法

权利要求书

1.基于粒子群优化的双准确度加权随机森林算法，其特征在于，包括以下步骤：Step1：确定原始数据集D＝{(x₁,y₁),(x₂,y₂),...(x_N,y_N)}，其中，为输入实例，n为总特征个数，y_i∈{Y₁,Y₂,...,Y_N}为类标记，i＝1,2,...,N，N为样本容量，随机确定决策树棵数K、决策树的特征个数m，其中，m≤n，确定预测试样本率X，所述预测试样本率为预测试数据集个数与数据集总数之比；

Step2：根据预测试样本率X对原始数据集D进行划分，生成第k棵决策树对应的预测试数据集P_k以及训练数据集S_k，并使用Bootstrap采样法对训练数据集S_k采样，获得袋外数据O_k，训练子集T_k；

Step3：从n个特征中随机选取m个特征属性作为节点分类特征，T_k作为训练数据，根据C4.5算法生成第k棵决策树；并使用该决策树测试O_k、P_k数据集，根据公式(1)和公式(2)计算该决策树的权重w_Ok和w_Pk，根据公式(3)计算该决策树的最终权重w_k：

Step4：重复Step2和Step3，直至决策树棵数为K时停止，获得决策树集合以及每棵决策树的权重；

Step5：使用决策树集合对测试数据进行测试并根据公式(4)进行分类，并获得随机森林算法的准确率：

Step6：将Step5得到的准确率作为粒子群的适应度值，采用粒子群优化算法对决策树棵数K和预测试样本率X超参数进行迭代优化，并与历史分类准确率进行对比，最终选出最优模型参数。

2.根据权利要求1所述的基于粒子群优化的双准确度加权随机森林算法，其特征在于，所述Step6中的粒子群优化算法的具体步骤如下：

S6-1：将决策树棵树K、预测试样本率X组成一个空间向量(K,X)作为粒子群优化算法中的一个粒子，所述粒子在整个搜索空间中以均匀随机的方式进行初始化；

S6-2：更新每个维度中每个粒子的速度和位置，且在每个时间步长对整个鸟群进行更新，其中，所述粒子的速度和位置的矢量公式如公式(5)和公式(6)所示：

v_id＝w×v_id+c₁×rand×(p_id-x_id)+c₂×rand×(p_gd-x_id) (5)；

x_id＝x_id+v_id (6)；

其中，w为惯性权重，取值范围通常是0.4～1.2，rand()是随机函数，产生[0,1]范围内的随机数，c₁和c₂为加速常数，表示粒子对种群的认知。