[发明专利]卷积神经网络的加速运算方法、服务器及存储介质

说明书

本发明公开了一种卷积神经网络的加速运算方法、服务器及存储介质，通过对待拆分map拆分成预设数量的子map，并获取各子map的位置信息；对各子map分别进行跨层运算，获取每一层运算的中间结果，将所述中间结果存入内部存储器中，提取所述内部存储器中的中间结果参与下一层运算，从而充分利用内部存储器并复用资源，减少了与外部存储器的交互时间，大大提升CNN的运算速度和资源使用效率，使得CNN能够在嵌入式终端内高速高效的运行。

技术领域

本发明涉及计算机应用领域，尤其涉及一种卷积神经网络的加速运算方法、服务器及存储介质。

背景技术

机器学习(Machine Learning，ML)和人工智能(Artificial Intelligence，AI)是研究如何让计算机去完成需要人的智力才能胜任的工作，是研究如何应用计算机的软硬件来模拟人类某些行为、思想的基本理论、方法和技术。AI是一门多学科交叉的科学，包含自然科学和社学科学交叉，更涉及哲学和认知科学，数学、神经生理学、心理学、计算机科学，信息科学、控制论等众多学科。因此，AI领域的理论研究和应用技术的壁垒很高，涉及到多学科协作以及实现困难等问题。

近年来，深度学习(Deep Learning，DL)进展大大推动了ML和AI的技术进步和实际应用。例如，AI为技术核心的应用已经渗透到了众多领域，安防、教育、金融、医疗、交通等等，典型应用包括：远程开户(金融、证券)，智能安防、图像识别、自然语言处理、自动驾驶等等。DL是一种含多隐层的，多层感知的深度学习结构，通过组合低层特征形成更加抽象的高层表示属性类别或特征，以发现数据的分布式特征表示。卷积神经网络(ConvolutionalNeural Network，CNN)就是一种有监督下的深度学习模型。

深度学习是模拟人脑的思维方式和处理问题的方法，而人脑的计算神经元数量是百亿量级，即使是一个“小型”的CNN网络所需要的计算也非常庞大，而且几乎所有的深度学习网络均运行在中央处理器(Central Processing Unit，CPU)或CPU集群，或图形处理器(Graphics Processing Unit，GPU)或GPU集群硬件平台之上，所需要的硬件资源非常巨大，导致成本和功耗都非常大。为了能够在嵌入式终端内应用CNN，就需要在相对处理器集群弱得多的硬件平台或处理器上运行CNN，这个问题已经是目前限制CNN在终端上应用的最大技术阻碍。为此，需要研究在处理器上的进行计算资源复用的方法，能够实现CNN在低成本、资源相对较少的处理器上运行。

CNN的计算过程是逐层计算，包括卷积层、池化层和全连接层，CNN的计算过程可以采用层间复用从而降低对处理器硬件资源的需求，即所有的卷积层或池化层依次运行在相同的模块中，在设计卷积层模块和池化层模块的时候，需要按照所有层的最大资源占用情况来设计相关参数，例如卷积核的尺寸、输入/输入卷积神经网络各层输入及输出的特征数据map的尺寸和数量等，CNN网络有一个特点：底层的map尺寸大，但是数量少，高层的map尺寸小，但是数量多。在层间复用方案中，需要设计按照大尺寸、大数量的标准来设计双端口随机存取存储器(random access memory，RAM)又称作“随机存储器”，是与CPU直接交换数据的内部存储器，将会造成计算资源的低效使用，同时也制约了并行路数，影响实时性。

发明内容

本发明的主要目的在于提出一种卷积神经网络的加速运算方法、服务器及存储介质，旨在解决现有技术中的卷积神经网络计算量大，难以充分利用硬件资源加速计算的技术问题。

为实现上述目的，本发明提供一种卷积神经网络的加速运算方法，所述卷积神经网络的加速运算方法包括以下步骤：

获取待拆分map；

对所述待拆分map进行卷积和池化操作，将进行卷积和池化操作后的待拆分map拆分成预设数量的子map，并获取各子map的位置信息；

对各子map分别进行跨层运算，获取每一层运算的中间结果，将所述中间结果存入内部存储器中；