[发明专利]一种基于数据密度峰值的自标记半监督分类方法及装置

说明书

技术领域

本发明提供一种基于数据密度峰值的自标记半监督分类方法及装置，属于计算机数据处理技术领域。

背景技术

在当今大数据时代，互联网上每天都会产生大量的信息，且每天都在以惊人的速度膨胀，诸如新闻评论、BBS、博客、聊天室、聚合新闻(RSS)等应用每时每刻都会产生大量的数据，这些数据中包含人们对社会各种现象的各种观点和立场，话题涉及政治、经济、军事、娱乐、生活等各个领域。如何在有限的时间范围内对海量数据进行处理和分析，是当前计算机数据处理系统所面临的严重挑战，而机器学习正是解决上述问题的有效手段。

数据分类是机器学习的基本任务，是图像视觉分析、文本分析、语音识别、舆情预警等领域的基础工作。数据分类包含两种形式，即监督分类与半监督分类。监督分类是数据样本全部具有标签；半监督分类是部分数据样本具有标签，部分数据样本不具有标签。在实际中，由于对数据进行标签通常需要专家知识，导致带标签数据获取代价太大，因而无标签数据比带标签数据将多得多。因此，从可应用的信息量角度看出，半监督分类在现实应用中有更强的需求。

目前，半监督分类模型粗略的可分为四类，分别是生成式模型、基于图的模型、半监督支持向量机模型和自标记模型。其中，自标记模型不需要具体的假设，其通过迭代的自我训练和标记方式实现半监督分类，是目前研究的热点。但是，现有的自标记半监督分类方法还存在不足，主要有两点局限：一是某些方法对数据集形状敏感，不能很好的解决非球形数据的适应性问题，导致陷入局部最优解；二是某些算法效率较低，在每次迭代过程中需要重新计算相关参数，导致大数据处理能力不足。

2014年6月，Rodriguez和Laio在《Science》杂志上发表了“一种基于数据密度峰值的聚类方法”(简称其为DPClus)，它通过定义两个参数“局部密度”和“到具有更高局部密度点的最近邻距离”来挑选出类中心点，然后再将其他所有数据样本按照一个向量NNeigh(NNeigh[i]＝j表示第i个对象要划分到与第j个对象相同的类中)的指示，在O(n)的时间复杂度上实现了数据聚类。DPClus具有思想简单、效率高、准确性高、对数据形状鲁棒等优点，因此，将DPClus聚类算法引入自标记半监督分类模型，可解决现有自标记半监督分类模型非球状数据适应性差和大数据处理能力不足的缺点。

发明内容

为了解决上述背景技术中现有的自标记半监督分类方法非球状数据适应性差和大数据处理能力不足的问题，本发明基于数据密度峰值的聚类方法，提供一种自标记半监督分类方法及装置，来对海量大数据实现快速准确的分类处理。

本发明提供一种基于数据密度峰值的自标记半监督分类方法，该方法包括如下步骤：

第一步：通过计算DPClus聚类方法定义的两个参数“局部密度”和“到具有更高局部密度点的最近邻距离”，得出目标向量NNeigh，发现数据内部结构特征，进一步利用标记数据集中带标签数据样本的信息确定类中心点，构造一个类似于图的数据空间结构；

第二步：根据第一步得出的数据空间结构，进入迭代训练过程；首先，利用标记数据集中的带标签数据样本训练分类器；其次，根据数据空间结构，从未标记数据集中选出被标记数据集中所有带标签数据样本所指向的下一个无标签数据样本；最后，利用训练好的分类器，对选出的无标签数据样本进行类别标签判别，并将判别后的数据样本加入到标记数据集中；重复迭代以上过程，直至标记数据集中带标签数据样本所指向的所有下一个无标签数据样本都被选出，并被判别类别标签后加入到标记数据集中，才停止迭代；

第三步：根据第一步得出的数据空间结构，再次进入迭代训练过程；首先，利用标记数据集中的带标签数据样本训练一个分类器；其次，根据数据空间结构，从未标记数据集中选出被标记数据集中所有带标签数据样本所指向的上一个无标签数据样本；最后，利用训练好的分类器，对选出的无标签数据样本进行类别标签判别，并将判别后的数据样本加入到标记数据集中；重复迭代以上过程，直至所有的无标签数据样本都被选出，并被判别类别标签后加入到标记数据集中，才停止迭代；

第四步：利用最终的标记数据集，训练分类器，完成训练。

所述参数“局部密度”的计算公式如下：

其中，d_ij代表是第i个数据样本x_i和第j个数据样本x_j之间的距离，该距离度量可以是任一种距离度量形式；d_c是截断距离。

所述参数“到具有更高局部密度点的最近邻距离”的计算公式如下：