[发明专利]改进人工蜂群优化的极限学习机方法

摘要

本发明公开了一种改进人工蜂群优化的极限学习机的方法，其特征在于，包括以下步骤：步骤1、对SN个个体产生初始解为；步骤2、对极限学习机的连接权值ω和阈值b进行全局寻优；步骤3、对极限学习机连接权值ω和阈值b进行局部寻优；步骤4、如果食物源信息在一定时间内没有更新，则将雇佣蜂转换为侦查蜂，回到步骤1重新初始化此个体；步骤5、从最优个体中提取出的极限学习机连接权值ω和阈值b，并使用测试集进行验证。本发明较好地克服了传统极限学习机应用于分类和回归时结果较差的缺点，相对于传统极限学习机和SaE‑ELM算法，本发明方法具有较强的鲁棒性，有效地提高了分类和回归的结果。

主权项

一种改进人工蜂群优化的极限学习机的方法，其特征在于，包括以下步骤：给定训练样本集(x_i,y_i)(i＝1,2,...,N),x_i∈R^d,y_i∈R^m；其激励函数为g()，隐层节点数目为L；步骤1、对SN个个体产生初始解为：$x_{i,j}=x_j^{\min }+rand\[0,1\](x_j^{\max }-x_j^{\min }),---\left(7\right)$每个个体的编码方式如下所示：${\mathrm{\θ}}_G=\[{\mathrm{\ω}}_{1,G}^T,\mathrm{...},{\mathrm{\ω}}_{L,G}^T,b_{1,G},\mathrm{...},b_{L,G}\];$编码中，ω_j(j＝1,...,L)是D维向量，每一维都是‑1到1之间的随机数；b_j则是0到1之间的随机数；G表示蜂群的迭代次数；步骤2、对极限学习机的连接权值ω和阈值b进行全局寻优：v_i,j＝x_i,j+rand[‑1,1](x_best,j‑x_k,j+x_l,j‑x_m,j)，    (8)式(8)中，x_best,j代表当前蜂群最优个体，x_k,j，x_l,j和x_m,j则是除当前个体外随机选择的其他三个不同的个体，即i≠k≠l≠m；每当雇佣蜂到达一个新的位置，将极限学习机的连接权值ω和阈值b对训练样本集进行验证并得到适应度值，如果适应度值较高，则使用新的位置信息代替旧的位置信息；步骤3、对极限学习机连接权值ω和阈值b进行局部寻优；首先，将跟随蜂根据其适应度进行克隆，克隆的数目和其适应度成正比：$N_i=\mathrm{int}\[SN\×fitness\left(x_i\right)/\underset{i=1}{\overset{SN}{\Σ}}fitness\left(x_i\right)\],---\left(9\right)$式(9)中，N_i表示第i个跟随蜂的克隆数目；SN表示个体的总数目；fitness(x_i)表示第i个跟随蜂的适应度值；其次，对克隆扩增后的群体，按照适应度概率计算式，选择概率大于0～1之间随机数的跟随蜂进行寻优，寻优的方式同式(8)；跟随蜂位置信息变化后，通过群体的浓度概率和适应度概率，使用选择概率计算式选出食物源，并组成新的位置信息；新位置信息和扩增之前的位置信息数目相同；所述适应度概率计算式为：$P_i=fitness\left(x_i\right)/\underset{j=1}{\overset{SN}{\Σ}}fitness\left(x_j\right),---\left(6\right)$所述浓度概率计算式为：$\left\{\begin{array}{ccc}{P}_d\left(x_i\right)=\frac{1}{SN}(1-\frac{HN}{SN})& if& \frac{N_i}{SN}\>T\\ P_d\left(x_i\right)=\frac{1}{SN}(1+\frac{HN}{SN}\×\frac{HN}{SN-HN})& if& \frac{N_i}{SN}\≤T\end{array}\right.,---\left(10\right)$式(10)中，N_i表示和第i个跟随蜂适应度值相近的跟随蜂数目；表示这些适应度相近的跟随蜂在群体中的数量比例；T为浓度阈值；HN则表示浓度大于T的跟随蜂数目；所述选择概率计算式为：P_choose(x_i)＝αP_i(x_i)+(1‑α)P_d(x_i)，    (11)利用轮盘赌的形式，依据式(11)对跟随蜂群体进行选择，选择前SN个适应度函数最高的跟随蜂构成新的食物源信息。步骤4、设定循环次数为limit次；如果食物源信息在limit次循环内没有更新，则将雇佣蜂转换为侦查蜂，使用所述步骤1中的式(7)重新初始化此个体；步骤5、当迭代次数到达设定值，或均方误差值达到1e‑4的精度后，从最优个体中提取出极限学习机连接权值ω和阈值b，并使用测试集进行验证。