[发明专利]一种分类性能与样本输入次序无关的模糊神经网络

摘要

本发明提供了一种分类性能与样本输入次序无关的模糊神经网络，在现有模糊神经网络的基础上，将样本输入次序由串行输入改为并行输入，当每个样本进入分类器中时，通过相似性矩阵值的计算，计算该样本与全部样本的相似性值，而不是只计算与前面已经进入分类器中样本间的相似性值，并由此计算结果来决定样本间的扩张与压缩，故最终形成的分类界面是根据全部样本间的相似性计算得来的，与样本的先后的顺序无关，从而避免了样本依赖性。本发明提供的算法通过引入相似性矩阵的概念，将原有模糊神经网络中，训练样本逐个串行通过模糊神经网络，改变为一次性并行全部通过，从根本上解决了模糊神经网络分类性能强烈依赖于样本输入次序的问题。

主权项

一种分类性能与样本输入次序无关的模糊神经网络，其特征在于，具体为：一、基本定义1.1输入向量假设D为训练样本集，D＝{Xh}，其中表示第h个输入模式，将此输入模式扩展成一个超盒，是低端点，是高端点；当时，这个子区域缩成一个点；1.2模糊超盒隶属度函数每个超盒具有一个模糊隶属度函数，它决定了模式空间中任意一点对该超盒的隶属程度；超盒的最小最大点和模糊隶属度函数定义了一个模糊集，属于同一类模式的超盒模糊集的并构成了该类模式的分类空间；首先，第j个超盒模糊集定义为一个有序集合：Bj＝{Xh，Vj，Wj，bj(Xh，Vj，Wj)}  (1)其中：h＝{1，2，…m}，m为正整数，是第h个输入模式，Vj是第h个输入模式的最小点，Wj第h个输入模式的最大点，模糊隶属度函数0≤bj(Xh，Vj，Wj)≤1，模糊隶属度函数定义如下：bj(Xh)=mini=1,2...n(min([1-f(xihu-Wji,γi)],[1-f(Vji-Xihl,γi)]))---(2)]]>其中，f(r，γ)是两个参数的斜坡阈值函数，它符合在模糊逻辑系统中，能够简明直观的表达专家知识的特征；f(r,γ)=1ifrγ>1rγif0≤rγ≤10ifrγ<0---(3)]]>γ＝[γ1，γ2，...γn]表示灵敏度参数，表明隶属度值下降的速率；其中，公式(2)中的Xihu表示第h个超盒高端点的第i维分量值，Wji表示第j个超盒的高端点，Vji表示第j个超盒的低端点，Xih1表示第h个输入模式低端点的第i维分量值；第h个超盒与第j个超盒两者之间逐维进行比较；1.3相似性矩阵相似性矩阵的基本假设是：每一个元素在高维空间都有相应的坐标点，如果两个元素之间的距离比较近，则表示为较为相似；反之，则表示为较为不相似；其基本思想是：通过相似性矩阵探索整个样本空间所有超盒间连续性的位置信息，并通过对所有超盒进行两两之间的相似性测度，以此信息作为随后的超盒扩张与重叠测试的标准；相似性矩阵的定义为任意两个超盒Bh和Bj间的质心距离S，其特征为Shj＝Sjh＝S(Bh，Bj)，定义如下：Sj(Bh)=mini=1,2...n(min([1-f((Whi-Vhi2-Wji-Vji2),γi)],[1-f((Wji-Vji2-Whi-Vhi2),γi)]))---(4)]]>其中γ＝[γ1，γ2，...γn]是预先设定的参数；sjh，shj，S(Bh，Bj)三者都表示超盒h的中心与超盒j的中心之间距离；二、学习算法2.1初始化对于给定的样本集X∈{Xh|h＝1，2，...，m}，Vj及Wj的初始值设为：Vj＝0，Wj＝0；当第j个超盒被首次增加进来时，超盒的最大、最小点将依次被修改为：2.2相似性测度最大值根据公式(4)计算出初始的相似性矩阵S，在这个对称的相似性矩阵中，所有超盒对(Bk，Bl)中，拥有相似性测度最大值的超盒对(Bj，Bh)都将作为超盒对是否被选择进行扩张的判定标准，该标准的表述公式如下所示：∀k=1,...m-1l=k+1,...mSjh=max(Skl)---(5)]]>其中，sjh和skl都表示两两超盒间的中心点距离，取其最大值；如果超盒集中找不到满足上述条件的超盒，就为该输入样本形成一个新的超盒，并将其加入超盒集中；2.3扩张准则当从上一步中选出的第h个输入模式Bh与超盒Bj满足相似性测度最大值时，判断其是否满足下列扩张准则：∀i=1,2...,n(max(Wji,Xhiu)-min(Vji,Xhil))≤θ---(6)]]>θ为自定义参数，用来限制超盒的最大尺寸，并且0＜θ＜1；若满足扩张准则，Bj的调整操作如下：Vjinew=min(Vjiold,Xhil),∀i=1,2...n---(7)]]>Wjinew=max(Wjiold,Xhiu),∀i=1,2...n---(8)]]>其中，分别表示超盒低端点和高端点的新值，分别表示超盒低端点和高端点的旧值，分别表示超盒的低端点和高端点；如果满足扩张准则，则将Bh从原超盒集中除去，加入扩张后的超盒Bj；如果不满足，寻找下一个可扩张的超盒；2.4超盒压缩扩张后的超盒，可能与属于其他类别的超盒在模式空间上重叠，这样，一个模式向量可能同时属于两个不同类别的超盒，从而无法判断其所属类别；因此，必须消除不同类别超盒之间的重叠；超盒压缩分为重叠测试与超盒压缩两部分组成；第一步是重叠测试，假设Bj和Bk是两个属于不同类别的超盒，用δ表示重叠程度，且初始值δold＝1，分别对超盒的每一维分量i(i＝1，2，...n)，按其所属情况的不同，以不同的公式进行测试，找出重叠程度最小的相应维，然后对该维进行压缩；情况1：vji＜vki＜wji＜wki，δnew＝min(wji‑vki，δold)情况2：vki＜vji＜wki＜wji，δnew＝min(wki‑vji，δold)情况3：vji＜vki＜wki＜wji，δnew＝min(min(wki‑vji，wji‑vki)，δold)情况4：vki＜vji＜wji＜wki，δnew＝min(min(wji‑vki，wki‑vji)，δold)Δ＝δold‑δnew，若Δ＞0，说明第i维空间上Bj和Bk有重叠，且重叠程度为δnew，记Δ＝i，δold＝δnew，继续测试第i+1维；否则，说明第i维上没有重叠，以后各维都不必测试了；其中，v即表示最低端，w即表示最高端，i表示其中的某一维，用δ表示重叠程度，且初始值δold＝1；第二步是对重叠超盒进行压缩操作；如果Δ＞0，说明超盒Bj和Bk间有重叠，且第Δ维重叠程度最小，故对该维进行如下压缩，从而消除重叠；(1)若vjΔ＜vkΔ＜wjΔ＜wkΔ，，则(2)若vkΔ＜vjΔ＜wkΔ＜wjΔ，则(3a)若vjΔ＜vkΔ＜wkΔ＜wjΔ，且(wkΔ‑vjΔ)＜(wjΔ‑vkΔ)，则(3b)若vjΔ＜vkΔ＜wkΔ＜wjΔ，且(wkΔ‑vjΔ)＞(wjΔ‑vkΔ)，则(4a)若vkΔ＜vjΔ＜wjΔ＜wkΔ，且(wkΔ‑vjΔ)＜(wjΔ‑vkΔ)，则(4b)若vkΔ＜vjΔ＜wjΔ＜wkΔ，且(wkΔ‑vjΔ)＞(wjΔ‑vkΔ)，则其中，v即表示最低端，w即表示最高端，i表示其中的某一维，用δ表示重叠程度，且初始值δold＝1；网络训练完毕后，在分类过程中，只要输入待判别模式X，分别计算X属于每个超盒的模糊隶属度，隶属度最大的超盒所属的类别就是X的类别。