[发明专利]一种基于最大化间隔机制的含噪多标记分类方法

权利要求书

1.一种基于最大化间隔机制的含噪多标记分类方法，其特征在于：该方法包括以下步骤：

步骤(1)用户在保证完全获得真实标记的前提下收集多标记数据；

步骤(2)使用标记置信度来表示标记信息，为每个标记初始化置信度值；

步骤(3)将含噪多标记分类问题转换成经验损失、铰链损失与置信度约束最小化的凸优化问题，求得凸优化问题的最优解生成多标记分类模型；

步骤(4)根据训练得到的分类模型对未见示例进行预测，得到每个类别的分类结果；

步骤(5)如果用户对预测结果满意，则结束，否则转到步骤(2)，为每个标记重新初始化置信度值。

2.根据权利要求1所述的一种基于最大化间隔机制的含噪多标记分类方法，其特征在于：所述步骤(2)具体包括：

假设表示d维的示例空间，Y＝{y₁,y₂,…,y_q}表示含有q个类别的标记空间。给定含噪多标记数据集D＝{(x₁,S₁),(x₂,S₂),…,(x_m,S_m)}，包含m个示例的，其中为d维的属性向量，而为与示例x_i对应的一组候选标记集合。此外，表示与示例x_i对应的一组非候选标记集合；Y_i为示例x_i的真实标记集合；

为了更好的区别候选标记集合中的真实标记与噪声标记，定义置信度θ_ij表示标记y_j能成为示例x_i的真实标记的可能性，θ_ij越大表示标记y_j为示例x_i的真实标记的可能性越大；当θ_ij＝1时表示标记y_j是示例x_i的真实标记，当θ_ij＝0时表示标记y_j是示例x_i的不相关标记；显然，当时，θ_ij＝0，即与示例x_i对应的非候选标记集合中的所有标记均为该示例的不相关标记；

因此，初始化标记置信度时，当y_j∈S_i时，当时，θ_ij＝0。

3.根据权利要求1所述的一种基于最大化间隔机制的含噪多标记分类方法，其特征在于：步骤(3)具体包括：

基于上述符号定义，为标记空间Y中每个标记y_p分别学习一个线性分类器f_p(x_i)＝ω_p,x_i+b_p，其中ω_p∈R^d为线性分类器的权重向量，b_p∈R为线性分类器的偏置；对此，将含噪多标记分类问题转换成经验损失、铰链损失与置信度约束最小化的凸优化问题，目标函数如下所示：

上式中第一项为模型的结构损失函数，通过此项约束模型自身的复杂度，从一定程度上防止模型过拟合；第二项为模型的经验损失函数，优化此损失函数让模型拟合训练样本，防止模型发生欠拟合的问题；其中ξ_ik为松弛变量，用于度量样本违背约束的程度，当样本违背约束的程度越大，松弛变量的值也会越大；ξ_ik是通过示例x_i非候选标记集合中的标记y_k学习得到的松弛变量，如式(2)所示；考虑到样本具有多义性，为了保证模型对标记置信度学习的公平性，第三项中对置信度加以约束；

公式(1)的目标是最小化模型的损失误差，包括模型的结构损失、经验损失以及对置信度值的约束；由于公式中需要学习的变量较多，因此可以采取交替迭代优化策略，将优化分为两个阶段，第一阶段中固定置信度θ求解模型权重ω和偏置b，第二阶段中固定模型权重ω和偏置b求解置信度θ，每个阶段中各利用二次规划工具包求解。

4.根据权利要求3所述的一种基于最大化间隔机制的含噪多标记分类方法，其特征在于：(3.1)第一阶段：当置信度θ固定时，公式(1)的优化目标如下：

构造公式(3)的拉格朗日函数如下：

上式中α_ik≥0,β_ik≥0；

对公式(4)分别关于ω_p，b_p,ξ_ik求导并令导数为0可得如下公式：

C＝α_ik+β_ik (7)

上式中为指示函数，当·为真时指示函数取值为1，否则取值为0。将公式(5)-(7)带入公式(4)可得原问题的对偶问题的优化目标如下所示：

(3.2)第二阶段：当模型权重ω和偏置b固定时，公式(1)的优化目标如下：