[发明专利]适用于小样本预测的消极支持向量机模型

摘要

本发明涉及小样本预测问题技术领域，具体的说是一种适用于小样本预测的消极支持向量机模型，本发明将ε‑支持向量机回归模型和消极预测方法结合起来，建立了一种消极支持向量机模型。与ε‑支持向量机回归模型中样本中的所有个体具有相同的不敏感损失函数不同，消极支持向量机模型中的不敏感损失函数取决于样本中个体与待预测个体的距离，为了求解消极支持向量机模型，引入广义拉格朗日函数，得到原问题的对偶问题，通过对对偶问题的求解获得了原问题的解，消极支持向量机模型能够综合传统支持向量机与消极预测方法的优点，不仅泛化性较好，还能改善局部精度。

主权项

一种适用于小样本预测的消极支持向量机模型，其特征在于首先需要建立模型，具体包括以下内容：步骤1：给定一个样本T＝{(x1,y1),(x2,y2),…,(xl,yl)}和待预测个体(x*,y*)，其中，xi∈Rn，yi∈R，i＝1,2,…l，l为T的容量，xi为T中个体的输入，yi为T中个体的输出，目标是基于T和x*建立消极支持向量机模型，对y*进行预测；步骤2：以ε‑支持向量机回归模型为基础构造消极支持向量机模型，在ε‑支持向量机回归模型中，为了保证其具有良好的泛化性能，引进了ε‑不敏感损失函数，如式(1)：|yi‑f(xi)|ε＝max{0,|yi‑f(xi)|‑ε}        (1)式中，f(·)为模型的决策函数，ε为一个事先给定的小正数，当yi与f(xi)之间的误差不超过ε时，认为模型对(xi,yi)的拟合是无误差的；步骤3：确定ε‑支持向量机回归模型的目标是找到适当的决策函数；f(x)＝wΦ(x)+b            (2)拟合T，使得12||ω||2+CΣi=1l|yi-f(xi)|ϵ---(3)]]>最小，式中，w为法向量，Φ(·)为映射函数，b为截距，C＞0，称为惩罚参数，在ε‑支持向量机回归模型中，ε为一定值，这说明ε‑支持向量机回归模型对样本中所有个体容许的无损失误差区间是相等的，步骤4：为了建立消极支持向量机回归模型，首先引入Ε‑不敏感损失函数，如式(4)：|yi‑f(xi)|E＝max{0,|yi‑f(xi)|‑E(||xi‑x*||)}          (4)式中，E(·)为样本中个体xi与待预测个体x*之间距离的函数，||xi‑x*||越小，E(||xi‑x*||)越小，反之亦然，一般情况下，可定义E(·)为式(5)：式中，ε为一个事先给定的小正数，由式(5)可知，当时，E(||xi‑x*||)＝ε；当||xi‑x*||＝0时，E(||xi‑x*||)＝0，当E(·)定义为式(5)时，Ε‑不敏感损失函数；类似于ε‑支持向量机回归模型，消极支持向量机回归模型的目标也是寻找一个适当的决策函数：f(x)＝wΦ(x)+b           (6)拟合T，使得12||ω||2+CΣi=1l|yi-f(xi)|E---(7)]]>最小。