[发明专利]用于处理单元的数据处理方法、电子设备和计算机可读存储介质

说明书

本公开的实施例涉及用于处理数据的方法，涉及计算机领域。方法包括：在第m个时钟周期，确定第一指数值；在第m+1个时钟周期，将两个n维向量输入到处理单元中以用于确定n个第二指数值，第二指数值是一个n维向量中的一个浮点数的指数与另一n维向量中的相应浮点数的指数之和；确定第一指数值和所确定的n个第二指数值中的最大值；确定n个第二指数值中是否存在目标第二指数值，目标第二指数值与最大值之间的差的绝对值大于或者等于第一阈值；以及响应于确定存在目标第二指数值，则在m+1时钟周期期间，不执行与目标第二指数值相对应的两个浮点数的乘法运算。通过本公开的数据处理方法，能够在处理单元中省略到一些数据的乘法运算，因此节省功耗。

技术领域

本公开的实施例涉及一种信息处理领域，尤其是用于处理单元的数据处理方法、电子设备和计算机可读存储介质。

背景技术

通用矩阵乘法(GEMM)算术逻辑单元(ALU)在计算密集型计算(例如各种AI应用程序)中起着核心作用。脉动阵列已成为大规模GEMM ALU的最新实现方式。在脉动阵列的基本处理单元中，通常执行融合的乘法和加法运算，也就是两个向量的点积运算。为了在每个基本处理单元中实现融合的乘法和加法运算，在该基本处理单元中，需要执行大量的乘法和这些乘法结果的加法运算。

传统的用于处理单元的数据处理方案，难以有效解决大型脉动阵列的功耗高这一设计瓶颈。

发明内容

本公开提供了一种用于处理单元的数据处理方法、电子设备和计算机可读存储介质，能够有效节省处理单元(特别基于脉动阵列的处理单元)的计算资源，降低算术运算单元的功耗。

根据本公开的一个方面，提供用于处理单元的数据处理方法，包括：在第m个时钟周期，确定作为在处理单元中执行的第一点积运算的结果的浮点数的第一指数值，m为大于或者等于1的正整数；在第m+1个时钟周期，将两个n维向量输入到处理单元中以用于确定n个第二指数值，第二指数值是通过两个n维向量中的一个n维向量中的一个浮点数的指数与另一n维向量中的相应浮点数的指数相加而获得的，n为大于等于1的正整数；确定第一指数值和所确定的n个第二指数值中的最大值；确定n个第二指数值中是否存在目标第二指数值，目标第二指数值与最大值之间的差的绝对值大于或者等于第一阈值；以及响应于确定n个第二指数值中存在目标第二指数值，则在m+1时钟周期期间，在处理单元中，不执行与目标第二指数值相对应的两个浮点数的乘法运算。

根据本公开的二个方面，提供一种电子设备，该电子设备包括：处理器；以及与处理器耦合的存储器，存储器具有存储于其中的指令，指令在被处理器执行时使电子设备执行动作，动作包括：在第m个时钟周期，确定作为在处理单元中执行的第一点积运算的结果的浮点数的第一指数值，m为大于或者等于1的正整数；在第m+1个时钟周期，将两个n维向量输入到处理单元中以用于确定n个第二指数值，第二指数值是通过两个n维向量中的一个n维向量中的一个浮点数的指数与另一n维向量中的相应浮点数的指数相加而获得的，n为大于等于1的正整数；确定第一指数值和所确定的n个第二指数值中的最大值；确定n个第二指数值中是否存在目标第二指数值，目标第二指数值与最大值之间的差的绝对值大于或者等于第一阈值；以及响应于确定n个第二指数值中存在目标第二指数值，则在m+1时钟周期期间，在处理单元中，不执行与目标第二指数值相对应的两个浮点数的乘法运算。

根据本公开的三个方面，提供一种计算机可读存储介质，其上存储有计算机指令，所述计算机指令被机器执行时实现本公开第一方面的所述方法。

根据本公开的一个实施例，响应于确定n个第二指数值中不存在目标第二指数值，则在第m+1个时钟周期期间，在处理单元中，可以执行针对两个n维向量中的所有数据的乘法运算。

根据本公开的一个实施例，处理单元可以包括寄存器；以及第一阈值与存储在寄存器中的浮点数的尾数的位数的差的绝对值可以小于第二阈值。