[发明专利]一种面向深度学习的分布式服务器及服务器集群

说明书

本发明提供一种面向深度学习的分布式服务器，包括若干个分布式布置的处理器模组，电源模块以及数据通信模块，其中，任一处理器模组包括若干个并行分布的CPU、深度学习单元、通信模块以及存储模块，电源模块用于为所述处理器模组供电，以及数据通信模块用于实现所述处理器模组与外部设备的通信。

技术领域

本发明涉及深度学习技术领域，特别涉及一种面向深度学习的分布式服务器及服务器集群。

背景技术

深度学习属于机器学习研究中的一个领域，其主要目的在于建立、模拟人脑进行分析学习的神经网络，通过模仿人脑的机制来解释数据，例如图像，声音和文本。深度机器学习方法包括监督学习与无监督学习，不同的学习框架下建立的学习模型不同。例如，卷积神经网络(Convolutional neural networks，简称CNNs)就是一种深度的监督学习下的机器学习模型，而深度置信网(Deep Belief Nets，简称DBNs)就是一种无监督学习下的机器学习模型。

基于服务器运行深度学习模型应用非常常见，例如图像识别、信号识别、网络分类等。由于深度学习模型运行本身需要极高的算力，将模型部署于服务器，通过本地网络或者互联网传输模型输入及输出结果是一种常见的应用场景。因此，会有一大部分深度学习模型会以部署在服务器的方式向市场提供人工智能方面的服务。

由于相较于CPU(Central Processing Unit，中央处理器)而言，GPU(GraphicsProcessing Unit，图像处理器)具有更强的浮点数运算能力，因此，深度学习通常采用GPU服务器实现。目前，常见的GPU服务器结构如图1所示，采用基于标准的外扩式服务器结构。所述GPU服务器包括多个CPU以及GPU，其中，通用性的计算任务由CPU完成，高度并行的深度学习计算任务由GPU完成，形成异构计算形态。CPU和GPU之间依靠PCIE总线进行通讯和数据交互。

在深度学习中通常存在一些强交互的场景，CPU与GPU需要进行大量的数据交互，而CPU的运算内存是基于自身所有的DDR接口连接，通常在主板上留有内存条插槽可以根据需要配置DDR内存容量，GPU的运算内存(通常也称为显存)，则通常为已固定的容量配置，直接固化在GPU板卡上。CPU外挂内存和GPU显存之间的数据不共享，因此，在计算过程中，需要通过PCIE总线来回搬运，较为耗时，进而影响服务器运算效率。

发明内容

针对现有技术中的部分或全部问题，本发明一方面提供一种面向深度学习的分布式服务器，包括：

若干个处理器模组，其采用分布式布置，且任一所述处理器模组包括若干个并行分布的CPU、深度学习单元、通信模块以及存储模块；

电源模块，用于为所述处理器模组供电；以及

数据通信模块，用于实现所述处理器模组与外部设备的通信。

进一步地，所述数据通信模块包括第一交换机，所述第一交换机与所述处理器模组可通信地连接。

进一步地，所述第一交换机为网络交换芯片。

进一步地，任一所述处理器模组均设置有唯一的IP网络地址，并通过以太网协议，与所述第一交换机进行通信。

基于所述分布式服务器，本发明另一方面提供一种服务器集群，包括：

若干个分布式服务器，任一所述分布式服务器中包含至少一个处理器模组以及一个第一交换机；以及

第二交换机，连接至各第一交换机，用于将外部设备的数据和/或指令发放至各分布式服务器。

进一步地，所述分布式服务器通过以太网协议，与所述第二交换机进行通信。

进一步地，所述处理器模组的运行状态通过外部设备控制。