[发明专利]一种云端平台计算系统及其应用方法

说明书

本发明涉及一种云端平台计算系统及其应用方法，包括：服务端和节点端。服务端由接入服务器构成，用于该云端平台计算系统的用户及计算资源的管理和调度；节点端由多个计算节点及辅助硬件构成，为云端平台计算系统提供异构计算资源；计算节点通过局域网与接入服务器进行交互。每个计算节点包含SoC主控模块和异构计算处理模块；SoC主控模块可运行操作系统，为用户提供相应异构计算处理模块的使用环境和管理功能；异构计算处理模块用于逻辑功能或加速算法的实现与部署。用户通过登录接入服务器，申请和使用计算节点。使用内容包括：用户通过接入服务器进入SoC主控模块的操作系统，对异构计算处理模块进行使用、管理、配置、调试及监控等操作。

技术领域

本发明涉及计算机体系结构以及异构处理系统领域，特别涉及一种云端平台计算系统及其应用方法。

背景技术

随着云计算、大数据、物联网等概念的兴起，异构计算系统逐渐成为产业发展的必然选择。相比于单一的CPU系统，在特定的应用场景下(如人工智能等)，异构计算系统往往能够达到几十甚至上百倍的性能提升。然而开发、部署一个异构计算系统往往需要高成本和长周期的投入，为了追求经济与效益的最优化，异构计算云平台应用而生。常见的异构计算云平台主要有FPGA云平台、GPU云平台以及谷歌公司的TPU云平台等。

以FPGA云为例，由于半导体工艺的发展速度逐渐成为制约计算机系统性能的瓶颈，传统的串行处理技术已经不能满足人们的需求，人们开始把注意力放在可并行计算的FPGA上。FPGA以其高能效和可多次编程的优势，逐渐成为突破现有系统性能瓶颈的解决方案之一。在媒体压缩、加解密、人工智能(AI)及大数据处理等领域，FPGA方案较传统CPU和GPU往往可达到几倍甚至几十倍的能效提升。然而FPGA开发的技术门槛较高，搭建FPGA硬件平台更是高成本、长周期。为了追求经济与效益的最优化，FPGA云平台应运而生。运营商为用户提供稳定的FPGA硬件平台以及一整套的开发环境，用户支付相对较低的价格就可以使用到高端的FPGA资源，快速的开始项目开发工作。最近几年，FPGA云的发展尤为迅猛，2017年4月美国亚马逊公司的FPGA EC2实例F1正式上线，同年国内互联网公司也纷纷宣布开展FPGA云加速器业务。

目前商用的FPGA云平台、GPU云平台以及TPU云平台等，都是基于X86服务器加FPGA/GPU/TPU架构，后文将主要以FPGA云平台进行对比说明。

现有的主要运营商的FPGA云平台基本框架如图2所示，主要分三部分：客户端、服务端和FPGA节点端。客户端安装在用户的本地PC上，用于登录和使用云平台(也可以通过网页或SSH工具登录和使用云平台)。服务端由一台或多台X86服务器组成，服务端集成了应用程序开发、FPGA加速逻辑开发所需的全套开发工具。节点端由一个或多个FPGA节点构成，并部署在服务端的X86服务器机箱里。客户端与服务端通过互联网进行数据交互，服务端与节点端通过PCIe接口进行数据交互。

服务端与FPGA节点通过PCIe接口进行数据交互。受限于接口形式，FPGA节点需部署在X86服务器机箱里。一台X86服务器根据自身机箱尺寸以及主板PCIe的接口数量，可部署的FPGA节点数量通常不会超过8个。如亚马逊的FPGA EC2实例F1，每个F1实例计算池上最多可配置8个FPGA节点。即使阿里云F3实例中也最多有16片FPGA芯片(双芯片板卡)。在现有的云框架下，FPGA节点很难进行高密度的部署，如果进行大量部署，需要大量的X86服务器，部署成本高，且占用大量的物理空间。

现有FPGA云计算平台将X86服务器与FPGA节点作为一种资源提供给用户，这种使用模式偏商业化，针对不同的用户群体，这种模式并不是最优的，如果用户使用FPGA云平台的目的仅仅是想学习或者使用FPGA可编程逻辑资源进行相关的逻辑设计、验证(比如教学领域)，对X86服务器并没有太大的需求，在这种场景下，X86服务器加FPGA节点这种架构显然存在性能上的浪费。