[发明专利]一种面向多核计算环境的BP神经网络并行化方法

摘要

本发明提供了一种面向多核计算环境的BP神经网络并行化方法。包括并行计算任务划分及映射方法；存储各层中间计算结果的缓存设置方法；BP神经网络的并行训练方法。所述对含P个计算单元的硬件平台，任务划分方法对将隐藏层和输出层计算任务整体组合成一个粒度更大任务，提高并行性；所述缓存设置方法，在一趟训练过程中，同一变量被上一个子任务访问后可用于下一个子任务，下一个子任务不会产生Cache缺失；所述BP神经网络训练方法中，样本分成K批进入网络训练，K值的设计综合计算平台的二级缓存大小，与缓存设置相结合，最大限度发挥硬件性能，适用于多核计算平台下的BP神经网络应用。

主权项

一种面向多核计算环境的BP神经网络并行化方法，其特征在于，包括下述步骤：S1、并行计算任务划分及映射方法；并行计算任务划分为：对含P个计算单元的硬件平台，将BP神经网络划分为P个初始任务和P个训练任务，每个训练任务贯穿输入层、各隐藏层和输出层，贯穿于正向计算和反向调整阶段；所述的任务映射方法为：将一个计算任务映射到一个计算单元，设置最后一个计算单元为主计算单元；S2、存储各层中间计算结果的缓存设置方法，使一趟训练过程中，同一变量被上一个子任务访问后可用于下一个子任务，不会产生二级缓存缺失；S3、BP神经网络的并行训练方法，训练方法如下：将训练过程分为M趟，每一趟训练中的样本分K批输入BP神经网络，一批样本完成正向计算后再执行反向调整，依次计算输出层校正误差、连接权值调整量部分和、阈值调整量部分和，计算各隐藏层校正误差、连接权值调整量部分和、阈值调整量部分和，K批样本完成训练后再根据输出层总体校正误差，利用连接权值调整量和阈值调整量反向实施各层的连接权值和阈值调整。