[发明专利]一种集“分类与聚类”为一体的模糊神经网络算法

说明书

技术领域

本发明涉及模式分类技术领域，尤其涉及一种集“分类与聚类”为一体的模糊神经网络算法。

背景技术

在模式分类领域中，监督与非监督学习一直扮演着相当重要的角色。所谓监督学习，即作为训练样本的输入数据都有着类别信息，被称之为已标识样本(labeled)；模式分类(Classification)的主要任务就是探索某个类与类之间的判定边界，使得类别的误分率最小化。而非监督学习方式正相反，作为训练样本的输入数据没有类别信息，被称之为未标识样本(unlabeled)；模式聚类(Clustering)的主要任务是根据某种相似性准则，将输入模式划分成若干个组(class)或者类(cluster)。

通常，这两种学习方式被分开来研究与应用，例如，Simpson提出的模糊最小-最大神经网络(Fuzzy Min-Max Neural Network)，简称FMM，就是一种既可以应用于模式分类，也可以用于模式聚类的模糊神经网络。但它们都是分别应用于两种不同的模式分类，一种称为有监督学习，另一种称为无监督学习，因为这两种方法都实现简单，并且效率较高，故这两种方法得到了广泛的研究。

Simpson提出的模糊最小-最大神经网络FMM是一种采用超盒(hyperbox)隶属度函数的模糊神经网络，一个超盒就定义了n维模式空间中的一个区域，所有包含在超盒内的模式对该超盒都具有完全的隶属度(membership)。一个超盒完全由它的最小点和最大点确定，且此最小-最大点对和这个超盒的隶属度函数联合起来定义了一个模糊集(即类别)。

下面详细说明Simpson提出的模糊最小-最大神经网络FMM的工作原理：

FMM主要采用超盒对模式空间进行划分，一个超盒定义了n维模式空间的一个区域。所有包含在超盒中的模式具有相同的类别，一个超盒由它在模式空间的最小点和最大点共同表示，并且对应一个模糊隶属度函数。(1)在分类问题中，表示相同类别的超盒模糊集合构成并表示一个类别的模糊集合；(2)在聚类问题中，超盒的最小点与最大点对，和这个超盒的隶属度函数联合起来定义了一个模糊集(即聚类)。

图1所示为三维模式空间中的一个超盒C，从图1中可以看出，它完全由一对最小点Min和最大点Max确定。虽然超盒的每一维分量都可以取任何范围的值，但FMM中规定超盒每维分量的取值都在0和1之间。因此，模式空间将是一个三维的单位立方体。每个超盒模糊集的隶属度函数都描述了样本隶属于该超盒的程度，且隶属度取值范围也在0到1之间。

假设B_j为第j个超盒模糊集，则定义B_j为如下有序集合：

B_j＝{X_h，V_j，W_j，b_j(X_h，V_j，W_j)} (1)

其中：h＝{1，2，...m}，m为设定的正整数；是第h个输入模式，是低端点，是高端点。V_j是第h个输入模式的最小点，W_j是第h个输入模式的最大点，模糊隶属度函数0≤b_j(X_h，V_j，W_j)≤1。隶属度函数衡量了第h个输入样本X_h位于由最小点V_i和最大点W_j形成的超盒中的程度。在逐维比较的标准中，这一准则可以被看成是数据落在超盒最小-最大边界之外的每维分量比该超盒最大(小)点的值大(小)多少。X_h越接近于超盒，0≤b_j(X_h，V_j，W_j)≤1就越接近于1。

FMM的学习方法就是一个扩张与压缩超盒的过程，假设训练集为X∈{X_h|h＝1，2，...，m}，其中，X_h＝(x_h1，x_h2，...x_hn)∈Iⁿ是第n个样本。开始学习中选择有序对并寻找离此样本最近的超盒，如果超盒满足扩张条件，则扩张该超盒以包含这个样本；如果不能找到满足扩张准则的超盒，则形成一个新的超盒并将其加入到系统中。这个递增的过程允许多次修改已存在的超盒，同时，也可以避免新的超盒加入时的重新训练。