[发明专利]随时间在线训练脉冲神经网络模型的图像数据分类方法

权利要求书

1.一种随时间在线训练脉冲神经网络模型的图像数据分类方法，其特征是，构建脉冲神经网络模型并设计随时间在线方法训练所述模型；再利用训练好的模型对图像数据进行分类和识别，有效提升图像数据的分类和识别性能；所述图像数据包括计算机图像数据和神经形态的图像视觉数据；所述图像数据分类方法包括以下步骤：

1)将图像数据分为训练样本和测试样本；

2)对训练样本进行预处理，并进行标准数据增强处理；

3)构建前馈或反馈型脉冲神经网络模型，包括输入层、隐层和输出层；并采用权重标准化的方法，将所构建模型的权重矩阵进行重参数化；包括步骤如下：

31)构建网络模型的输入层，用于将步骤2)处理后得到的图像数据输入到网络模型；

32)构建网络模型的隐层：包括构建多组脉冲神经元作为不同的隐层；输入层与隐层、隐层与隐层之间均具有前馈连接；

对于反馈型脉冲神经网络，最后的一层隐层与第一层隐层具有反馈连接；

所述连接均为任意的线性操作；

33)构建网络模型的输出层：

网络模型的输出层采用一组不发放脉冲和重置膜电位的神经元，神经元的数量等于图像数据分类的类别数，并使用累积的神经元膜电位大小作为图像数据分类的标准；

网络模型最后的一层隐层与输出层之间具有前馈连接，采用全连接的形式；

输出层即为网络模型的分类层；分类层用于根据累积的神经元膜电位进行分类，并选择最大膜电位的神经元对应的类别作为网络模型预测得到的图像数据分类类别；

34)采用权重标准化的方法，将构建的网络模型的权重矩阵进行重参数化：

采用对前馈连接权重的权重标准化的方法，将构建的前馈或反馈型脉冲神经网络神经元之间连接的权重矩阵重参数化；

4)通过设计随时间在线训练的方法训练步骤3)构建并重参数化的脉冲神经网络模型，计算每个时刻损失函数关于权重的梯度，完成对网络的训练；包括如下步骤：

41)在每个离散时刻，对模型输入的图像样本数据，模型逐层根据神经元连接的输入更新脉冲神经元的膜电位、产生脉冲和前传脉冲信号，同时每个神经元记录神经元活动；

42)在每个时刻，根据输出层的输出计算即时的损失函数，逐层计算并反向传播对神经元膜电位的即时梯度，得到每一层关于膜电位的梯度；其中即时的反向传播仅针对前馈连接；

训练模型的总损失是各时刻的即时损失的累和；

43)通过下式计算在每个时刻对脉冲神经网络连接权重的即时梯度：

其中，W^l为第l层到第l+1层神经元前馈连接的权重矩阵，l＝0表示输入层到第一层隐层的连接权重；向量上标l为前馈或反馈型脉冲神经网络模型中层数的标号，l＝0表示输入层，l＝N表示输出层；N为前馈或反馈型脉冲神经网络模型中神经元的总层数；为任意第l_i层到任意第l_j层神经元的前馈或反馈连接的权重矩阵；L[t]为在时刻t时模型训练的损失；表示在时刻t时模型参数的梯度；为在时刻t时第l_j层神经元膜电位的梯度；为离散情况下，一组脉冲神经元在时刻t时记录的神经元活动向量；

44)使用离散时刻的即时梯度，基于梯度的优化算法，对模型进行训练优化；

5)利用步骤3)和步骤4)构建并训练好的脉冲神经网络模型，对待测试的图像数据样本进行分类识别；待测试的图像数据样本无需经过数据增强处理；

具体是在每个离散时刻，对模型输入图像样本数据，模型逐层根据神经元连接的输入更新脉冲神经元的膜电位、产生脉冲和前传脉冲信号，总时间后从输出层得到预测的数据分类标签，由此实现图像数据分类。

2.如权利要求1所述的图像数据分类方法，其特征是，步骤2)进一步包括如下步骤：

21)对图像数据进行预处理包括：减去图像数据集的像素值的均值并除以标准差；

对图像数据进行数据增强采用标准增强方法，包括：在图像每边增加零值像素，再进行随机裁剪；对图像进行随机水平翻转；对图像进行随机中心旋转；

22)对于神经形态数据进行预处理包括：累积一段时间的脉冲数据，以减小时间分辨率；

所述神经形态数据是通过神经形态照相机将计算机图像数据转换生成；神经形态数据的像素点使用脉冲序列表示；脉冲序列即值为0或1的时间序列。