[发明专利]一种手写数字识别模型训练方法和系统

说明书

本发明公开了一种手写数字识别模型训练方法和系统，输入MNIST训练数据集和STDP突触初始权值矩阵，建立各神经元模型和各突触模型，使用分布式多线程并行技术，根据计算机资源动态使用多个线程对神经元群体进行预先划分，然后建立线程内局域脉冲神经网络，将每个独立线程内的神经元群体、突触连接关系以及突触权值进行初始化，在初始化完成后，所有线程按照设定轮数迭代进行并行训练，解决了现有的脉冲神经网络采用串行训练方法，不能合理利用计算机资源，训练效率低下，不利于推广的技术问题。

技术领域

本发明涉及手写识别技术领域，尤其涉及一种手写数字识别模型训练方法和系统。

背景技术

手写数字识别，是计算机从纸质文档、照片或其他来源接收和理解并识别可读的手写数字的能力，在实际生活中具有很大的实际应用价值，例如，手写数字识别可以应用在银行汇款单号识别中，以极大的减少人工成本，在此过程中，一般使用深度人工神经网络结构进行识别。但是深度人工神经网络的本质与实际的大脑模型相差甚远，识别率并不高。为此，目前提出了使用第三代人工神经网络进行改进，以脉冲的形式实现神经元之间的信息传输的脉冲神经网络(Spiking Neural Network，SNN)，被誉为第三代人工神经网络，在神经元模型、突触模型、学习机制上具有很强的生物合理性，与真实生物神经网络高度接近。但是，由于脉冲神经网络中神经元类型复杂多样，神经元数目众多，连接各神经元的突出结构具有不同的延时和可修改的连接权值，海量神经元的实时活动状态模拟，对于计算机来说是个巨大的挑战，例如利用时序依赖脉冲(突触)可塑性学习规则(Spike TimingDependent Plasticity，STDP)的无监督训练算法，虽然能够成功训练出用于手写数字识别预测的网络模型，但是这种训练方法是典型的串行训练方法，不能合理利用计算机资源，训练效率低下，不利于推广。

发明内容

本发明提供了一种手写数字识别模型训练方法和系统，用于解决现有的脉冲神经网络采用串行训练方法，不能合理利用计算机资源，训练效率低下，不利于推广的技术问题。

有鉴于此，本发明第一方面提供了一种手写数字识别模型训练方法，包括：

将MNIST训练数据集和STDP突触初始权值矩阵输入全局脉冲神经网络模型，全局脉冲神经网络模型中包含各神经元模型和各突触模型；

根据计算机资源动态使用多线程对全局脉冲神经网络模型的神经元群体进行预先划分；

建立线程内局域脉冲神经网络模型，将每个独立线程内的神经元群体、突触连接关系和突触权值进行初始化；

在初始化完成后，对所有线程内局域脉冲神经网络模型按照预设轮数进行迭代训练，其中，在训练期间不断进行周期同步与脉冲传输；

在训练结束后，保存各个线程的所有STDP突触最终权值，整合生成突触权值矩阵并保存。

可选地，将MNIST训练数据集和STDP突触初始权值矩阵输入全局脉冲神经网络模型，包括：

将MNIST训练数据集中所有28*28像素的训练图像以784*1的矩阵进行转换，以均匀分布的随机数作为STDP突触初始权值矩阵的初始值，输入全局脉冲神经网络模型。

可选地，全局脉冲神经网络模型包括三层网络结构，分别为输入层N₁、兴奋层N₂和抑制层N₃；

N₁＝{A_i＝{a_k；k＝1,2,...,K}；i＝1,2,...I}

N₂＝{b_i；i＝1,2,...,I}

N₃＝{c_i；i＝1,2,...,I}