[发明专利]一种基于结构化SVM的不平衡评估准则的直接优化算法

摘要

本发明公开了一种基于结构化SVM的不平衡评估准则的直接优化算法，其特征是按如下步骤进行：1、选定数据集，并对数据集中的所有训练样本进行先正后负排序；2、定义基于结构化SVM框架的目标函数；3、根据所述损失函数分别定义面向不平衡评估准则的损失函数以及关联函数ψ(x,y)；4、初始化所述权衡参数C和错误允许值ε；5、利用割平面算法对所述目标函数进行迭代求解，得到基于机构化SVM框架的目标函数。本发明提高了少数类的分类精度，能应用于不平衡数据的分类。

主权项

一种基于结构化SVM的不平衡评估准则的直接优化算法，其特征是按如下过程进行：步骤1、假设存在一个不平衡数据集，记为xi表示第i个训练样本，xi∈Rd；Rd表示实数的d维空间；yi表示第i个训练样本所对应的类标签，且yi∈{+1,‑1}；当yi＝+1，表示第i个训练样本xi为正样本，当yi＝‑1，表示第i个训练样本xi为负样本；1≤i≤n；对所述不平衡数据集D中的所有训练样本进行先正后负排序，使得所有正样本处于所述不平衡数据集D的前部分，所有负样本处于所述不平衡数据集D的后部分，从而形成排序后的不平衡数据集D′＝{(x,y)}；x表示训练样本队列，y表示类标签队列，且表示第p个正样本，表示第q个负样本，表示第p个正样本所对应的类标签，表示第q个正样本所对应的类标签；1≤p≤pos，1≤q≤neg，pos+neg＝n；步骤2、定义如式(1)所示的基于结构化SVM框架的目标函数：min12wTw+Cξs.t∀y‾∈Y:wT[ψ(x,y)-ψ(x,y‾)]≥Δ(y,y‾)-ξ---(1)]]>式(1)中，w∈Rd为参数向量，C为权衡参数，ξ为凸损失函数的上界，并有：ξ=maxy‾∈Y{Δ(y,y‾)-wTψ(x,y)+wTψ(x,y‾)}---(2)]]>式(1)和式(2)中，为预测输出的类标签队列，为损失函数，当类标签队列y和预测输出的类标签队列相同时，令当类标签队列y和预测输出的类标签队列不相同时，令ψ(x,y)表示输入的训练样本队列x和类标签队列y的关联函数；表示输入的训练样本队列x和预测输出的类标签队列的关联函数；Y表示类标签队列空间；步骤3、根据所述损失函数分别定义面向不平衡评估准则的损失函数以及所述训练样本队列x和类标签队列y的关联函数ψ(x,y)；步骤4、定义错误允许值为ε，并初始化所述权衡参数C和错误允许值ε；步骤5、利用割平面算法对所述目标函数进行迭代求解，得到基于机构化SVM框架的目标函数。