[发明专利]脉冲神经网络的训练方法和训练装置

权利要求书

1.一种脉冲神经网络的训练方法，其特征在于，应用于包括多层神经元的脉冲神经网络，所述脉冲神经网络的第i层神经元包括控制神经元，所述控制神经元与所述脉冲神经网络中的其他神经元连接，所述控制神经元用于归一化所述脉冲神经网络的输出层的输出结果，所述方法包括：

基于时序方式，将训练数据输入至所述脉冲神经网络的输入层，逐层对所述脉冲神经网络进行训练，直至得到所述脉冲神经网络的输出层的输出结果，其中，在t时刻，所述控制神经元的输入包括：所述第i层神经元中的至少一个其他神经元在t时刻的输出、所述至少一个其他神经元在t-1时刻的输出以及所述控制神经元在t-1时刻的输出；

基于所述输出结果，确定所述脉冲神经网络的误差；

基于所述误差，更新所述脉冲神经网络的连接权重，并继续对所述脉冲神经网络进行训练，直至所述脉冲神经网络收敛。

2.根据权利要求1所述的方法，其特征在于，所述第i层神经元在膜电压超出阈值时的输出包括所述第i层神经元中的控制神经元在膜电压超出所述阈值时的输出。

3.根据权利要求1或2所述的方法，其特征在于，所述第i层神经元中的至少一个其他神经元在t-1时刻的输出是从缓存器获取的。

4.根据权利要求1-3中任一项所述的方法，其特征在于，所述逐层对所述脉冲神经网络进行训练，包括：

对所述至少一个其他神经元在t-1时刻的输出乘以第一系数，所述第一系数用于对所述至少一个其他神经元在t-1时刻的输出进行放大或衰减；

将乘以所述第一系数后的所述至少一个其他神经元在t-1时刻的输出作为所述控制神经元的输入。

5.根据权利要求1-4中任一项所述的方法，其特征在于，所述逐层对所述脉冲神经网络进行训练，包括：

对所述控制神经元在t-1时刻的输出乘以第二系数，所述第二系数用于对所述控制神经元在t-1时刻的输出进行放大或衰减；

将乘以所述第二系数后的所述控制神经元在t-1时刻的输出作为所述控制神经元的输入。

6.根据权利要求1-5中任一项所述的方法，其特征在于，所述基于所述误差，更新所述脉冲神经网络的连接权重，包括：

确定所述误差基于所述控制神经元的梯度值；

基于所述梯度值，更新所述控制神经元的连接权重。

7.根据权利要求1-6中任一项所述的方法，其特征在于，在所述脉冲神经网络收敛之后，所述方法还包括：

基于时序方式，将任务数据输入至训练好的所述脉冲神经网络的输入层，逐层进行预测，直至得到所述脉冲神经网络的输出层的输出结果。

8.一种脉冲神经网络的训练装置，其特征在于，应用于包括多层神经元的脉冲神经网络，所述脉冲神经网络的第i层神经元包括控制神经元，所述控制神经元与所述脉冲神经网络中的其他神经元连接，所述控制神经元用于归一化所述脉冲神经网络的输出层的输出结果，所述装置包括：

处理模块：用于基于时序方式，将训练数据输入至所述脉冲神经网络的输入层，逐层对所述脉冲神经网络进行训练，直至得到所述脉冲神经网络的输出层的输出结果，其中，在t时刻，所述控制神经元的输入包括：所述第i层神经元中的至少一个其他神经元在t时刻的输出、所述至少一个其他神经元在t-1时刻的输出以及所述控制神经元在t-1时刻的输出；

确定模块：用于基于所述输出结果，确定所述脉冲神经网络的误差；

所述处理模块还用于：基于所述误差，更新所述脉冲神经网络的连接权重，并继续对所述脉冲神经网络进行训练，直至所述脉冲神经网络收敛。

9.根据权利要求8所述的装置，其特征在于，所述第i层神经元在膜电压超出阈值时的输出包括所述第i层神经元中的控制神经元在膜电压超出所述阈值时的输出。

10.根据权利要求8或9所述的装置，其特征在于，所述第i层神经元中的至少一个其他神经元在t-1时刻的输出是从缓存器获取的。