[发明专利]基于集成学习的动态神经网络模型训练方法和装置

摘要

本发明公开了一种基于集成学习的动态神经网络模型的训练方法和装置，所述方法包括对于集成动态神经网络模型中的每个子模型，将原始数据作为第一层神经元的输入，经过动态神经元的处理，得到该层输出特征；增加神经元层数，将上层输出的特征作为下一层神经元的输入，得到相应层的特征，重复该步骤直至层数达到某个预设值；在最后一层的输出特征与所属类别之间建立全连接层，并计算所述输出特征与类别之间的全连接权重；在各个子模型与所属类别之间建立全连接层，并确定各个子模型对于所述集成动态神经网络模型的权重；本发明将一个深层的神经网络转化为多个相对浅层的神经网络并行处理，节省训练时间，提高了训练效率。

主权项

一种基于集成学习的动态神经网络模型训练方法，其特征在于，包括以下步骤：步骤一：对于集成动态神经网络模型中的每个子模型，将原始数据作为第一层神经元的输入，经过动态神经元的处理，得到该层输出特征；步骤二：增加神经元层数，将上层输出的特征作为下一层神经元的输入，得到相应层的特征，重复该步骤直至层数达到某个预设值；步骤三：在最后一层的输出特征与所属类别之间建立全连接层，并计算所述输出特征与类别之间的全连接权重；步骤四：在各个子模型与所属类别之间建立全连接层，并确定各个子模型对于所述集成动态神经网络模型的权重；其中，所述步骤一中神经元被建模为动态神经元；所述动态神经元的结构为：其中A(l)，B(l)，C(l)分别为nl×nl阶、nl×ml阶、nl×1阶矩阵，表示神经元状态矩阵、拓扑连接矩阵、以及特征提取矩阵，C(l)T表示矩阵C(l)的转置；x(l)，u(l)分别为nl×1、ml×1向量，分别表示一个神经元的状态以及能处理的输入数据，ml、nl的值与所在的层相关。