[发明专利]一种基于特权信息的特征选择方法

权利要求书

1.一种基于特权信息的特征选择方法，其特征在于，包括以下步骤：

步骤A：定义特权信息，然后将定义的特权信息作为附加信息加入训练阶段的常规信息中；

步骤B：根据常规信息和特权信息的分布关系进行三种不同情况的设置：匹配、不匹配和部分匹配，形成训练样本和测试样本，进行交叉验证；

步骤C：使用内核可分性方法作为特征选择函数，对步骤B所述样本中的非线性分布情况进行处理，根据常规信息和特权信息不同分布的情况，采取不同内核矩阵的对齐度量函数作为内核可分性特征选择函数的正则项，内核可分性特征选择函数和对齐度量函数两部分相结合形成目标函数；

步骤D：对步骤C所述目标函数，使用凹凸过程算法，选出最优特征子集，放入选定的算法框架比较性能得出结论。

2.如权利要求1所述的一种基于特权信息的特征选择方法，其特征在于，步骤B不同情况的关系设置具体为：

B1对于匹配情况，在训练阶段获得n对输入数据：

其中x_i∈X,y_i∈{-1,+1}，此时常规信息x_i,特权信息和标签y_i组成一个三元组；

B2对于不匹配情况，输入样本从两组样本中学习：

{(x₁,y₁),(x₂.y₂),…,(x_n,y_n)},

其中m是特权数据集的数量；

B3对于一部分匹配一部分不匹配的部分匹配情况，将B1、B2两种情况相结合，训练样本分为三组：

{(x₁,y₁),(x₂.y₂),…,(x_n,y_n)},

3.如权利要求1所述的一种基于特权信息的特征选择方法，其特征在于，步骤C的具体展开为：

步骤C1：对于基于类可分性的特征选择函数，它的主要思想是最大化类间散射矩阵与类内散射矩阵之间的比值，来衡量同一类样本的距离；

首先修改基础类可分性函数,使其变为带有非线性映射函数φ的基于内核可分性函数，则特征选择函数形式改为：

其中K＝φ^Tφ代表对应的核函数，C代表种类数目，n_i代表每个类中样本的个，||K||₁代表1-范数运算；

步骤C2：有了步骤C1所述特征选择函数之后，根据步骤B所确立的三种不同样本分组情况确定代表内核矩阵对齐程度的函数作为步骤C1所述特征选择函数的正则项；

C21、对于匹配情况，采用核对齐的核矩阵对齐度量方法，来测量核矩阵的相似性，基础形式如下：

定义的取值范围为-1到1，K_i为内核矩阵，它使用内核k_i。若K₂＝yy',y∈{+1,-1}为二分类标签向量,则<yy',yy'>_F＝n²，该式可以简化为如下形式：

与所述的内核可分离优化函数结合之后，目标函数如下：

其中K^*代表特权特征的内核矩阵，为控制内核K规模的正则项，λ为超参数；

C22、对于不匹配情况，常规和特权样本来自不同空间，对于考量两组样本之间的距离方法最大平均差异评估方式如下：

其中κ(·,·)为高斯核函数，对于来自不同空间分布的常规样本和特权样本，修改高斯核函数为:得到变形的最大平均差异评估方式如下：

与所述的内核可分离优化函数结合之后，目标函数如下：

C23、对于部分配对情况，常规样本和特权样本一部分来自同一分布，另一部分来自于不同分布，可以分别进行C21、C22所述的分组优化目标函数，最后结合起来即可：