[发明专利]一种基于信息熵的模糊半监督支持向量机的分类方法

权利要求书

1.一种基于信息熵的模糊半监督支持向量机的分类方法，其特征在于：步骤如下：

1)数据预处理；

2)计算有标签数据模糊隶属度；

3)建立基于熵的模糊半监督支持向量机模型及其对偶模型；

根据步骤2)得到的有标签数据的模糊隶属度，提出基于信息熵的模糊半监督支持向量机模型，并进一步通过拉格朗日函数建立基于信息熵的模糊半监督支持向量机对偶模型；

4)基于序列极小优化算法优化基于信息熵的模糊半监督支持向量机对偶模型：

将基于信息熵的模糊半监督支持向量机对偶模型改写为标准的二次规划问题形式，通过序列极小优化算法优化该标准二次规划问题，得到基于信息熵的模糊半监督支持向量机对偶模型的拉格朗日乘子，从而求得基于信息熵的模糊半监督支持向量机模型的优化参数，根据优化参数即可获得分类超平面或分类决策函数；

5)对待处理数据分类

基于步骤4)获得的分类超平面或分类决策函数，对待处理数据做分类，即可获得分类结果。

2.根据权利要求1所述的一种基于信息熵的模糊半监督支持向量机的分类方法，其特征在于：步骤1)所述数据预处理具体方法为，首先去除记录重复和特征重复数据；然后对缺失值和异常值采用删除样本点、替换法或插值的方法进行处理；最后对样本数据按下式归一化处理：

3.根据权利要求1所述的一种基于信息熵的模糊半监督支持向量机的分类方法，其特征在于：步骤2)计算有标签数据模糊隶属度的步骤为，

2.1)先计算带有标签数据点的信息熵；

2.2)然后根据负类样本信息熵的值，将负类样本分成m个子集

2.3)再按照下式计算样本的模糊隶属度；

其中FM_n＝1.0-β*(n-1),n＝1,2,…,m，β为模糊隶属度参数；

4.根据权利要求3所述的一种基于信息熵的模糊半监督支持向量机的分类方法，其特征在于：步骤2.1)计算带有标签数据点的信息熵按如下方法进行，

设有标签的数据集表示为如下集合形式，

L＝{x_i，y_i}，i∈{1，2，…，l}，y_i＝+1 or y_i＝-1，

其中x_i为数据向量，y_i为相应的标签；对于其中的每个数据向量x_i，计算出与其欧氏距离最近的N个样本点，N的大小预先设定；根据x_i的N个近邻样本点，按下式计算其信息熵：

H_i＝-p_+iln(p_+i)-p_-iln(p_-i)

其中p_+i＝num_+i/N，p_-i＝num_-i/N，num_+i为N个最近邻样本点中正类的个数，num_-i为N个最近邻样本点中负类的个数，ln为自然对数函数。

5.根据权利要求3所述的一种基于信息熵的模糊半监督支持向量机的分类方法，其特征在于：步骤2.2)中，将负类样本分成m个子集时，根据负类样本信息熵的极小值H_min和极大值H_max将信息熵分为间隔相等的m个区间，信息熵的m个区间按下限从小到大排序分别为第1，2，...n，...m个区间，分别对应负类样本的m个子集每个负类样本信息熵落入某个信息熵区间，对应的负类样本就被分配到对应的子集Sub_n。

6.根据权利要求1所述的一种基于信息熵的模糊半监督支持向量机的分类方法，其特征在于：步骤4)中，根据优化参数获得分类超平面或分类决策函数为：

即：

7.根据权利要求1所述的一种基于信息熵的模糊半监督支持向量机的分类方法，其特征在于：步骤3)中所述基于信息熵的模糊半监督支持向量机模型如下：

通过拉格朗日函数建立的基于信息熵的模糊半监督支持向量机的对偶模型如下：

0≤α_i≤C₁s_i，i＝1，2，…，l；0≤β_j，γ_j≤C₂，j＝l+1，l+2，…，l+k.。