[发明专利]基于人工智能的异构计算平台

说明书

本发明公开了一种基于人工智能的异构计算平台，包括底层异构硬件平台、系统软件层以及应用软件层，系统软件层运行在底层异构硬件平台上，应用软件层在系统软件层上开发应用。本发明基于人工智能实现了异构计算，采用双冗余交换开关式互连体系架构设计，支持动态扩展和并行处理的系统体系架构，包含硬件系统架构、软件平台设计和内部总线设计。通过增加冗余链路和故障检测电路，可以在单个计算模块或数据链路出现故障时，通过重新配置交换模块的节点转发表，对并行系统进行拓扑重构，使系统具备较强的容错性和故障隔离能力。

技术领域

本发明属于芯片技术应用领域。涉及一种支撑人工智能的应用的异构计算体系，尤其涉及一种基于人工智能的推理运算的基于人工智能的异构计算平台及计算方法。

背景技术

目前单一的商用芯片难以适应需求。不足以快速、高效、低功耗地支撑人工智能的应用，需要一套异构的计算体系，来支持异构计算的需求。传统应用，某些特殊场景的应用除了具有数据量大、难以快速处理等问题之外，同时对安全性以及可靠性有较大的需求。。

发明内容

为了克服现有技术的缺陷，本发明需要解决的技术问题是既要满足不同载荷数据处理应用的特殊需求，又要具有一定的通用性，具有标准化、模块化、可扩展的特点，还要具有可重构、可容错能力，满足特殊空间环境应用需求。构建的处理平台能够通过简单的模块组合就可以快速实现不同的类型的数据处理应用需求。

针对现有技术中的缺陷，本发明提出了一种基于人工智能的异构计算平台，包括底层异构硬件平台、系统软件层以及应用软件层，系统软件层运行在底层异构硬件平台上，应用软件层在系统软件层上开发应用，所述底层异构硬件平台由数据处理模块、异构互联传输模块、温度检测调节控制模块、电磁兼容碰撞设计模块、功耗管理能耗控制模块、星载环境主机适配模块、CPU主控单元、FPGA加速单元、IPU、DSP处理单元以及容错与故障恢复模块组成；

所述系统软件层包括智能算法库和中间件，设置任务调度策略和软硬件划分机制，支持并行处理与异构计算，采用并行编程框架适配；

所述应用软件层提供人工智能应用计算过程的建模与分析以及人工智能应用的特征刻画及数据流分析接口。

优选的，上述数据处理模块由基础模块子系统、温度管理子系统和功耗控制接口子系统组成，其中基础模块子系统包括存储模块、时钟模块、智能芯片、IO模块和电源模块组成，智能芯片分别与存储模块、时钟模块、IO模块和电源模块连接，基础模块子系统分别与温度管理子系统和功耗控制接口子系统连接。

优选的，上述平台系统软件层通过任务调度模块完成任务调度和分配任务，通过负载均衡模块完成设备缓存、板载内存管理和Docker实例-应用映射任务。

优选的，上述平台上任务包括软件任务和硬件任务，软件任务定义为运行在通用处理器上的任务，硬件任务定义为运行在异构计算单元上的任务。

优选的，每个硬件任务的执行时间基本固定，执行过程包括输入数据传输、任务执行、输出数据传输三个阶段。

优选的，上述硬件任务通常不支持任务抢占，一个硬件任务一旦开始执行，从该任务发送数据开始，一直到计算结果返回，异构计算单元一直被该硬件任务独占，其他任务无法获得该异构计算单元的使用权。

优选的，上述硬件任务之间不具备直接通信的能力，硬件任务的直接通信需要平台的硬件支持，异构计算单元之间需要有直接的硬件通路，从而完成信号和数据的传输。

优选的，上述平台还包括一内存管理模块，通过页表结构完成虚拟地址空间到物理地址空间的转换；当异构计算核心或者数据传输总线需要片外板载内存时，所述页表结构提供一个地址给内存管理部件。

优选的，上述平台的异构任务运行流程如下：