[发明专利]一种集“分类与聚类”为一体的模糊神经网络算法

摘要

本发明提供了一种集“分类与聚类”为一体的模糊神经网络算法，以模糊最小‑最大神经网络为基准，重新设计其各步骤，在每一步骤中，充分考虑未标识和已标识样本同时存在的可能性，区分分类学习与聚类学习的不同之处，实现两种学习方法共存在同一个模糊神经网络系统中。当输入样本集全是未标识的样本，采用非监督学习方式对样本集进行聚类操作；当输入样本集全是已标识的样本，或部分是已标识、部分是未标识的样本，采用监督学习方式对样本集进行分类操作。本发明提供的算法既可以用于纯聚类、纯分类，也可以用于聚类与分类的混合学习方式。在混合样本学习过程中，无论是已标识的样本，还是未标识的样本，都得到了充分的利用，提高了分类正确率。

主权项

一种集“分类与聚类”为一体的模糊神经网络算法，其特征在于，具体为：一、基本定义1)、输入向量集成算法模型的输入模式采用下列形式的序对：{Xh，dh}；其中，表示第h个输入模式，是低端点，是高端点，h为正整数；dh∈{0，1，2，...p}表示p+1类中某一类的类别标记，p为正整数，当dh＝0时意味着输入样本为未标识样本；2)、模糊超盒隶属度函数一个超盒定义n维模式空间中的一个区域，n为正整数；每个超盒具有一个模糊隶属度函数，模糊隶属度函数决定了模式空间中任意一点对该超盒的隶属程度；超盒的最小最大点和模糊隶属度函数定义了一个模糊集，属于同一类模式的超盒模糊集的并就构成了该类模式的分类空间；首先，第j个超盒模糊集定义为一个有序集合：Bj＝{Xh，Vj，Wj，bj(Xh，Vj，Wj)}         (1)其中：h＝{1，2，...m}，m为正整数；是第h个输入模式，Vj是第h个输入模式的最小点，Wj第h个输入模式的最大点，模糊隶属度函数0≤bj(Xh，Vj，Wj)≤1，模糊隶属度函数定义如下：其中，f(r，γ)是两个参数的斜坡阈值函数，它符合在模糊逻辑系统中，能够简明直观的表达专家知识的特征；γ＝[γ1，γ2，...γn]表示灵敏度参数，其表明隶属度值下降的速率；当γ变大时，模糊集边界将变得更加清晰，且随着γ的减小，模糊集边界的这种清晰性也会逐渐降低；其中，公式(2)中的Xihu表示第h个超盒高端点的第i维分量值，Wji表示第j个超盒的高端点，Vji表示第j个超盒的低端点，Xihl表示第h个输入模式低端点的第i维分量值；第h个超盒与第j个超盒两者之间逐维进行比较；二、学习算法1)、超盒初始化对于给定的样本集X∈{Xh|h＝1，2，...，m}，Vj及Wj的初始值设为：Vj＝0，Wj＝0；当第j个超盒被首次增加进来时，超盒的最大、最小点将依次被修改为：初始化标识集class(Bk)＝dk对于所有的k＝0，1....p，如果dk＝0则意味着样本未被标识；2)、超盒扩张当从上一步中选出的第h个输入模式Bh与超盒Bj满足相似性测度最大时，判断其是否满足下列扩张准则：θ为自定义参数，用来限制超盒的最大尺寸，并且0＜θ＜1；其后再根据下列公式来调整Bj：如果class(Bh)＝0则调整Bj             (5)否则如果上述扩张可以分成两种情况，其一：当输入模式Bh属于未标识样本，即class(Bh)＝0，并且超盒Bh与超盒Bj又满足超盒的扩张准则，以及相似性最大的测度值，那么认为这个输入模式Bh归属于足够接近的某个类别或聚类族，则调整Bh和Bj进行扩张；其二：当输入模式的标识是已知的，即class(Bh)≠0，属于某个特定的类别，则又可以分为以下三种情况：1)超盒Bj没有具体的类别信息，即class(Bj)＝0，则调整Bh和Bj进行扩张；并且，超盒Bj被赋予与超盒Bh相同的类别标识；2)超盒Bj与超盒Bh具有相同的类别信息，即class(Bj)＝class(Bh)，则调整Bh和Bj进行扩张；3)超盒Bj有具体的类别信息，但不同于超盒Bh，即class(Bj)≠class(Bh)，则在相似性矩阵中取其他的一对，满足最大相似性测度的超盒。Bj的调整操作如下：将Bh从原超盒集中除去，加入扩张后的超盒Bj；其中，分别表示超盒低端点和高端点的新值，分别表示超盒低端点和高端点的旧值，分别表示超盒的低端点和高端点；3)、重叠测试超盒的重叠测试分为两种情况，如以下公式所示：上述测试原则充分体现了不同类别超盒之间不允许有重叠的原则；用δ表示重叠程度，且初始值δold＝1；对前一步扩张所得的超盒Bj，逐维比较Bj和当前超盒集中的其他超盒Bk，如果Bj和Bk的每一维分量都符合下列四种情况之一，则它们之间发生重叠：1)vji＜vki＜wji＜wki；2)vki＜vji＜wki＜wji；3)vji＜vki≤wki＜wji；4)vki＜vji≤wki＜wji；其中，v即表示最低端，w即表示最高端，i表示其中的某一维；4)、超盒压缩如果超盒发生了重叠，则也要按照上述四种情况进行压缩，以消除重叠，具体操作与FMM学习算法的重叠测试与压缩操作一样；压缩操作完成后，还要对模糊隶属度函数进行更新，即对扩张与压缩操作后得到的超盒集，根据式(1)、(2)重新计算其模糊隶属度函数，上述过程循环往复，直至不再有超盒可以进行扩张为止。