[发明专利]一种具备极大化知识利用能力的半监督图像分类方法

说明书

技术领域

本发明属于图像处理及应用领域，具体是一种具备极大化知识利用能力的半监督图像分类方法。

背景技术

支持向量机(Support Vector Machine,SVM)是20世纪90年代以后逐步发展起来的一种基于统计学习理论的机器学习方法，坚实的理论基础使其成功地解决了机器学习中普遍存在的“维数灾难”和“过拟合”问题，并具有良好的泛化能力，已经在许多实际工程领域中展示了良好的应用前景。然而传统的SVM作为一种有监督的学习方法,只能在少量的有标号的样本上进行学习,从而在一定程度上导致学习不太充分,在一定程度上影响了该方法对具体模式进行识别的能力。如果能把半监督学习思想引入支持向量机中，将会弥补标准支持向量机的缺陷，获得更好的分类效果。

传统的机器学习技术分为两类，一类是无监督学习，一类是监督学习。无监督学习只利用未标记的样本集，而监督学习则只利用标记的样本集进行学习。但在很多实际问题中，只有少量的带有标记的数据，因为对样本进行类别标记往往需要耗费大量的人力物力，代价有时很高，而大量的未标记的数据却很容易得到。这就促使能同时利用标记样本和未标记样本的半监督学习技术迅速发展起来。基于支持向量机延伸的半监督支持向量机算法就有较好的效果。

图像分类是将图像分到预先设定的不同类别中。对于计算机而言，识别并分类是较为困难的。原因是两方面的，一是图像数据方面的，图像里充满了大量复杂多样且难以描述的对象，由原始图像到模式识别方法里具体的数据的数据处理和特征选择方法多样；二是具体分类方法的选择，分类方法多种多样，各有优缺。对于图像分类而言，一般做法是从第一个方面出发，在数据预处理和特征选择的过程中尽可能找出合适的特征选择方法，再利用一些经典的分类方法例如SVM进行图像分类，但这种方法的前提是往往需要尽可能多的、训练分类器所需要的、划分明确的、且特征选择合适的标记数据，那这种代价往往是较高的。那么从分类方法的选择出发，半监督支持向量机往往具有较好的分类效果。

发明内容

本发明的目的在通过更为有效和深入的挖掘有标记的和无标记图像样本数据从而提高机器的图像分类能力。

按照本发明提供的技术方案，所述具备极大化知识利用能力的半监督图像分类方法，包含如下定义和步骤：

定义：

定义1：数据集表示分类器训练用样本的集合，d为数据维度，l为有标签的样本数量和u为无标签样本数量；

定义2：y_i∈{+1,-1}(i＝1,...,l)表示数据集X的l个有标签样本对应的样本标签；

定义3：表示分类决策函数，其中α_i≥0是支撑向量指示器元素，b是一常数，K()为核函数，常取径向基核函数：K(x_i,x_j)＝exp(-||x_i-x_j||²/2σ²),i∈[1,l],j∈[1,l+u]，σ为核宽带；

定义4：f＝[f₁,...,f_l,f_l+1,...,f_l+u]^T为数据集根据分类决策函数得到的预测值；

定义5：成对约束集MS(Must-Link Set，必须连接集)和CS(Cannot-Link Set，不能连接集)这里由提供的样本标签转换过来的，转换形式如图2；

定义6：L＝D-W是图拉普拉斯矩阵，其中W＝[W_ij]_(u+l)×(u+l)为数据集X邻接矩阵，且

D成为对角矩阵，且

定义7：定义矩阵Z＝H-Q，其中Q＝[Q_ij]_(u+l)×(u+l)表示标记样本间的成对约束关系矩阵，其矩阵元素Q_ij的计算如式(2)，H是对角矩阵，H＝diag(Q·1_(l+u)×1)，1_(l+u)×1为(l+u)×1的向量且元素全为1；

其中|MS|表示必须连接集的记录容量，|CS|则表示不能连接集的记录容量；

定义8：定义流形正则化(Manifold Regularization)形式为

定义9：成对约束正则化形式：