[发明专利]一种基于SVM技术的离散前向神经网络分类器的优化方法

摘要

本发明公开了一种基于SVM技术的离散前向神经网络分类器的优化方法。离散前向神经网络(BFNN)具有明显的结构优势，但现有学习算法还不太成熟，难以获得令人满意的泛化性能；而SVM技术优势在于解决线性可分问题，能确立一个最优超平面，来提升分类器的泛化性能；因此，借助于SVM技术来优化训练后的BFNN，在现有的BFNN神经网络学习泛化能力还不理想的情况下，提出的一种基于SVM技术的离散前向神经网络分类器的优化算法。该算法将训练样本数据分解神经元数集，再重新组织更完善更契合的映射关系，通过SVM技术找到更优的权参数，改善BFNN神经网络泛化性能，从而获得更优的学习性能，促进BFNN在模式识别以及电子通信领域更加广泛的应用。

主权项

一种基于SVM技术的离散前向神经网络分类器的优化方法，包括以下步骤：步骤1)，对给定样本集S进行训练，建立映射关系,确立一个BFNN分类器，具体可描述为先随机初始化一个离散前向神经网络，根据基于敏感性的自适应学习算法(SBALR)训练给定样本S从而得到一个BFNN分类器；步骤2)，读取已获得的BFNN分类器的网络信息，包括网络所含层数L，每层所含神经元个数n^l，其中，表示l网络的层数序号，选择一个样本X_i；步骤3)，判断样本序号是否在给定样本集S中，如果在，则读取样本X_i，否则，则跳出步骤3)；步骤4)，对已训练好的BFNN分类器的网络层数进行编号，并定位网络的层号l；步骤5)，判断网络层号是否属于该网络所含层数，如果是，则对于定位到的第l层，对该层的神经元进行编号，并且具体定位到第l层的第j个神经元，否则，则网络中所有神经元在该样本X_i下均已计算完毕，此时，需要下一个样本的读入，跳到步骤4)；步骤6)，判断一个神经元的编号j是否属于原网络该层的神经元个数；如果是，则计算出该神经元在样本输入下对应的输出，形成的新的集合；否则，则说明该层神经元对应的输入输出集均已计算完毕，则进入下一层神经元进行同样的计算；步骤7)，从网络的第一个神经元开始，去读取相应的样本训练集$S_j^l=(X_{j,i}^l,y_{j,i}^l);$步骤8)，用SVM技术对每一个神经元的相应的样本训练集进行训练，得出新的神经元参数，代替原本的神经元参数；步骤9)，重复步骤8)和9)，直至所有的神经元参数都得到优化；步骤10)，进过上面的步骤，重新形成的网络就是经过优化后的离散前向神经网络分类器。