[发明专利]数据格式转换装置、缓冲芯片及方法

说明书

本发明实施例提供一种数据格式转换装置、缓冲芯片及方法。通过将数据格式转换装置设置在内存中的缓冲芯片上，设置用于在获取到数据拷贝命令时，向转换模块发送控制指令的控制模块；以及用于根据接收到的控制指令，完成待转换数据的数据格式转换和存储地址映射的转换模块，避免了现有技术中在加速计算单元中设置数据格式转换单元而导致的额外占用加速计算单元的计算资源和计算时间的问题，减小了主存储器和设备存储器之间的数据传输量，不额外占用计算资源，在保证了计算精度的同时提升了计算效率。

技术领域

本发明实施例涉及计算机技术，尤其涉及一种数据格式转换装置、缓冲芯片及方法。

背景技术

在高性能的计算机体系结构中，通常都设置有对密集型计算任务有很强处理能力的加速计算单元，如通用图形处理器(General Purpose Graphic Process Unit，GPGPU)和现场可编程门阵列(Field-Programmable Gate Array，FPGA)。在处理密集型计算任务时，中央处理单元(Central Processing Unit，CPU)将大量的并行计算工作分配到加速计算单元中，以缓解CPU的计算压力，提高计算机的整体计算效率。

如图1所示，在包含加速计算单元的计算机结构中，CPU和加速计算单元拥有各自的存储单元，通常将CPU的存储器定义为主存储器(main memory)，将加速计算单元的存储器定义为设备存储器(device memory)，main memory和device memory之间通过总线(bus)实现数据传输。

迭代计算是一种典型的密集型计算任务，为了提高计算效率，通常将迭代计算分配到加速计算单元中实现。迭代计算通常应用于方程组求解、矩阵求解特征值或奇异值分解(Singular Value Decomposition，SVD)等方面，如图2所示，迭代计算的基本思想是逐次逼近，先取一个粗糙的初始值，然后使用同一个迭代公式，将中间结果反复代入该迭代公式循环计算，直至计算结果收敛到精度要求为止。

由于迭代计算这类密集型计算任务对于中间结果的数据精度要求很高，因此，为了计算能够有效收敛，在加速计算过程中，通常采用高精度格式的数据进行计算，同时在数据传输过程中，也采用高精度格式的数据。虽然在加速计算过程和数据传输过程中均采用了高精度数据格式，满足了计算精度的要求，但是增加了数据传输量，增加的数据传输量会使数据传输的时延增加，对于CPU来说整体的计算时间也增加了。

现有的技术方案中，如图3所示，通过在加速计算单元中增加两个数据格式转换单元，即，高精度数据转低精度数据单元和低精度数据转高精度数据单元，使CPU将低精度数据通过总线传递给加速计算单元，加速计算单元接收数据后将低精度数据补零转换成高精度数据格式，然后进行计算；当加速计算单元需要将数据传输给CPU时，先将高精度数据转换成低精度数据，再通过总线发送给CPU。

虽然上述现有技术的方案通过传递低精度数据的方式减小了数据传输量，进而减小了数据传输的时延，但由于在加速计算单元中增加了两个数据格式转换单元，需要额外占用加速计算单元的计算资源和计算时间进行数据格式转换，因此，降低了加速计算的效率。

发明内容

本发明实施例提供一种数据格式转换装置、缓冲芯片及方法，以在减小CPU的主存储器和加速计算单元的设备存储器之间的数据传输量的同时，不额外占用加速计算单元和CPU的计算资源，保证计算精度的同时提升计算效率。

第一方面，本发明实施例提供一种数据格式转换装置，

所述装置用于内存中的缓冲芯片，所述装置包括控制模块和转换模块；

所述控制模块用于根据接收到的所述数据拷贝命令，向所述转换模块发送控制指令，所述数据拷贝命令包含待转换数据、格式转换类型以及待转换数据的地址的信息；所述控制指令用于指示所述转换模块对所述待转换数据进行数据格式转换和存储地址映射；