[发明专利]用于异构计算的系统、方法和装置

权利要求书

1.一种设备，包括：

硅中介层；

通信结构；

加速器管芯，包括多个计算元件来对多个矩阵数据元素同时执行运算；

多个点积引擎，所述多个点积引擎用于对所述矩阵数据元素计算多个点积以生成多个结果矩阵数据元素；

缓冲器或缓存，用于存储所述多个结果矩阵数据元素；以及

堆叠DRAM，在耦合到所述加速器管芯的所述硅中介层上垂直堆叠多个DRAM管芯。

2.根据权利要求1所述的设备，其中，所述矩阵数据元素包括浮点数据元素。

3.根据权利要求1所述的设备，其中，点积运算包括所述矩阵数据元素与向量的数据元素相乘。

4.根据权利要求3所述的设备，其中，所述矩阵数据元素是稀疏矩阵的数据元素，并且其中，所述多个点积包括面向行的稀疏矩阵密集向量(spMdV)乘法运算。

5.根据权利要求3所述的设备，其中，所述矩阵数据元素是稀疏矩阵的数据元素，并且其中，所述多个点积用于实现缩放和更新操作。

6.根据权利要求1-5中任一项所述的设备，支持I/O虚拟化，以将多个数据并行处理电路在分配给不同虚拟机的不同虚拟功能之间进行划分。

7.根据权利要求6所述的设备，其中，所述I/O虚拟化针对每个虚拟功能支持独立的共享工作队列(SWQ)，每个虚拟功能具有其自身的SWQ寄存器。

8.根据权利要求1所述的设备，还包括：

多协议链路，用于将所述加速器管芯耦合到主机处理器。

9.根据权利要求8所述的设备，还包括：

I/O存储器管理单元(IOMMU)，以将共享虚拟存储器(SVM)空间映射到组合的物理和主机存储器，

所述SVM空间用于由所述主机处理器与所述加速器管芯共享。

10.根据权利要求1所述的设备，还包括：

存储器控制器，耦合到所述通信结构。

11.一种系统，包括：

系统存储器；

耦合到所述系统存储器的设备，所述设备包括：

硅中介层；

通信结构；

加速器管芯，包括多个计算元件来对多个矩阵数据元素同时执行运算；

多个点积引擎，所述多个点积引擎用于对所述矩阵数据元素计算多个点积以生成多个结果矩阵数据元素；

缓冲器或缓存，用于存储所述多个结果矩阵数据元素；以及

堆叠DRAM，在耦合到所述加速器管芯的所述硅中介层上垂直堆叠多个DRAM管芯。

12.根据权利要求11所述的系统，其中，所述矩阵数据元素包括浮点数据元素。

13.根据权利要求11所述的系统，其中，点积运算包括所述矩阵数据元素与向量的数据元素相乘。

14.根据权利要求13所述的系统，其中，所述矩阵数据元素是稀疏矩阵的数据元素，并且其中，所述多个点积包括面向行的稀疏矩阵密集向量(spMdV)乘法运算。

15.根据权利要求13所述的系统，其中，所述矩阵数据元素是稀疏矩阵的数据元素，并且其中，所述多个点积用于实现缩放和更新操作。

16.根据权利要求11-15中任一项所述的系统，支持I/O虚拟化，以将多个数据并行处理电路在分配给不同虚拟机的不同虚拟功能之间进行划分。

17.根据权利要求16所述的系统，其中，所述I/O虚拟化针对每个虚拟功能支持独立的共享工作队列(SWQ)，每个虚拟功能具有其自身的SWQ寄存器。