[发明专利]一种计算装置和计算方法

说明书

本公开涉及一种计算装置，其中计算装置可以包括在组合处理装置中，该组合处理装置还可以包括通用互联接口和其他处理装置。所述计算装置与其他处理装置进行交互，共同完成用户指定的计算操作。组合处理装置还可以包括存储装置，该存储装置分别与计算装置和其他处理装置连接，用于计算装置和其他处理装置的数据。本公开可以在带宽固定的约束下，在不损失运算速度的前提下提高运算精度。

技术领域

本公开涉及数据处理领域，更具体地，涉及数据类型的转换。

背景技术

传统的CPU和GPU在进行神经网络训练或者推理时，在输入数据类型为Float16的条件下，为了提高神经网络的精度，需要将Float16类型数据转换为Float32数据类型将进一步的运算，待运算完毕后又将Float32类型的结果转换为Float16类型的数据以进行保存。

传统的实现方法中主要有两种方式。第一方式是，先将Float16数据类型的数据从存储器中按行读出，将读出的数据进行Float16到Float32的数据类型转换，然后将转换后生成的Float32类型的数据存回存储器中。接下来，再将Float32的数据读出进行运算。但是，这种方式的缺点在于上述计算过程结束后的数据量翻倍，占用了相对于Float16数据类型而言2倍的存储空间。第二种方式是，首先读取半行Float16类型的数据，转数后生成1行Float32类型的数据以进行运算。

无论以上哪种方式，对于将数据送到32位的浮点运算器组中执行运算操作的1行数据，受限于带宽固定，此时每行中Float32数据类型的元素个数相对于Float16数据类型而言减半，即运算效率减半。这样就增加了把数据从存储器件中读出的次数，同时需要更多的指令条数完成此种操作，从而具有执行时间长，功耗高和编程复杂的缺陷。

发明内容

本公开的目的在于克服现有技术中占用存储空间大或者转换效率低的缺陷。

根据本公开的第一方面，提供一种计算装置，包括：第一转换单元(T1)，配置为将具有第一精度m的第一数据转换为具有第二精度n的第二数据，其中，第二数据占用的空间为第一数据的n/m倍并且包括n/m个部分，其中n和m为整数，且n大于m；运算单元(C)，所述运算单元配置为连接到所述第一转换单元(T1)，分别对所述第二数据的n/m个部分进行运算，以得到具有第二精度n的第三数据，所述第三数据包括n/m个部分；第二转换单元(T2)，配置为将具有第二精度n的第三数据转换为具有第一精度m的结果数据。

根据本公开的第二方面，提供一种芯片，包括上述的计算装置。

根据本公开的第三方面，提供一种板卡，包括如上面所述的计算装置或者如上面所述的芯片。

根据本公开的第四方面，提供一种电子设备，包括如上面所述的计算装置，或者如上面所述的芯片，或者如上面所述的板卡。

根据本公开的第五方面，提供一种计算方法，包括：将具有第一精度m的第一数据转换为具有第二精度n的第二数据，其中，第二数据占用的空间为第一数据的n/m倍并且包括n/m个部分，其中n和m为整数，且n大于m；分别对所述第二数据的n/m个部分进行运算，以得到具有第二精度n的第三数据，所述第三数据包括n/m个部分；以及将具有第二精度n的第三数据转换为具有第一精度m的结果数据。

本公开的技术方案的至少一个有益效果包括，可以在带宽固定的约束下，在不损失运算速度的前提下提高运算精度。

附图说明

通过参考附图阅读下文的详细描述，本公开示例性实施方式的上述以及其他目的、特征和优点将变得易于理解。在附图中，以示例性而非限制性的方式示出了本公开的若干实施方式，并且相同或对应的标号表示相同或对应的部分其中：

图1示出了根据本公开一个实施方式的计算装置的框图；

图2示出了根据本公开的一个实施方式的将第一数据转换为多行第二数据的示意图；