[发明专利]基于流形正则和范数正则的领域迁移极限学习机方法

摘要

本发明公开了一种基于流形正则和范数正则的领域迁移极限学习机方法。在传统的极限学习机基础上，引入半监督学习和迁移学习的思想，构造了一种新的极限学习机模型，由3部分组成：能够挖掘有标签和无标签数据样本的几何分布形状实现半监督学习的流形正则项；同时考虑源领域数据和目标领域数据误差最小化以实现迁移学习的损失函数项；约束权值空间的范数正则子。本发明结合源领域来处理目标领域的预测问题，提高了极限学习机的泛化能力和应用范围。其中，流行正则项的引入也使得本发明提出的方法能够在带标签的数据较少时依然能够保持较好的学习效果，克服了传统机器学习方法需要大量有标签数据的限制，同时也提高了预测的准确性和鲁棒性。

主权项

一种基于流形正则和范数正则的领域迁移极限学习机方法，其特征在于，包括以下步骤：步骤1：设源领域数据为DS＝{XS}，其中源领域有标签数据TS是相应的类别标签，源领域无标签数据目标领域数据为DT＝{XT}，其中目标领域有标签数据TT是相应的类别标签，目标领域无标签数据把第i个数据样本表示成xi＝[xi1,xi2,…,xin]T，n是每个数据的特征维度；步骤2：随机产生极限学习机的隐层节点参数(ai,bi),i＝1,2,...,L，其中ai＝[ai1,ai2,…,ain]T是连接第i个隐层节点和输入神经元的输入权重，n是输入神经元的个数，即等于数据的特征维度，bi是第i个隐层节点的偏置，L是隐层节点个数；步骤3：对于N个输入样本X＝{x1,x2,...,xN}，计算相应的隐层输出矩阵：其中表示激活函数；同样的地对XS，XT和分别计算它们相对应的隐层输出矩阵，分别用HS，和HT来表示；步骤4：结合半监督学习、迁移学习，构建出如下优化模型：其中||β||p是用来约束权值空间的范数正则子，取三种范数正则子：L1范数||β||1，L2范数和包络范数其介于L1范数和L2范数之间；CS，CT，λS和λT都是惩罚参数，LS和LT分别是源领域数据和目标领域数据的拉普拉斯算子，表示矩阵的迹；步骤5：设定上述步骤4中的4个惩罚参数；步骤6：根据源领域所有数据XS和目标领域所有数据XT分别计算LS和LT；步骤7：根据步骤4所述优化模型，求解最优的连接隐层节点和输出神经元的输出权值β；步骤8：根据步骤7得到的不同输出权值β，相应形成不同的基于流形正则项和Lp范数正则子的领域迁移极限学习机模型，然后根据训练误差的大小取其中训练误差最小的一个模型并将其应用到后续新数据的预测问题中。