[发明专利]运算方法、装置、芯片、电子设备及存储介质

说明书

本公开提供了一种运算方法、装置、芯片、电子设备及存储介质，涉及计算机技术领域，尤其涉及芯片技术领域、人工智能领域。实现方案为：基于输入到运算装置中的第一向量的多个第一浮点数和第二向量的多个第二浮点数，获取与多个第一浮点数相应的多个第一定点数和多个第一阶码，以及与多个第二浮点数相应的多个第二定点数和多个第二阶码；获取多个第一定点数中的每个第一定点数和与其对应的第二定点数的定点乘积值及相应的定点乘积阶码；基于多个定点乘积值中的每个定点乘积值相应的定点乘积阶码，获取第一向量与第二向量的定点内积计算结果；以及基于定点内积计算结果，获取定点内积计算结果对应的浮点数据格式的浮点内积计算结果。

技术领域

本公开涉及计算机技术领域，尤其涉及芯片技术领域、人工智能领域，具体涉及一种运算方法、装置、芯片、电子设备、计算机可读存储介质和计算机程序产品。

背景技术

随着人工智能技术的发展，越来越多的应用基于人工智能技术取得了远超过传统算法的效果；深度学习是目前人工智能技术的核心技术。深度学习是数据密集型算法和计算密集型算法，也是快速迭代发展的算法。

传统的CPU、GPU、DSP等通用处理设备针对通用计算任务设计，在处理深度学习应用时，存在计算性能低、效能低等弊端，无法有效支持深度学习算法在数据中心等场景的大规模部署。基于ASIC/FPGA的深度学习专用加速设备，针对深度学习的计算特点，深度定制硬件结构，相对于传统的CPU、GPU、DSP等设备，可以实现更高的计算性能和计算效能。

在此部分中描述的方法不一定是之前已经设想到或采用的方法。除非另有指明，否则不应假定此部分中描述的任何方法仅因其包括在此部分中就被认为是现有技术。类似地，除非另有指明，否则此部分中提及的问题不应认为在任何现有技术中已被公认。

发明内容

本公开提供了一种运算方法、装置、芯片、电子设备、计算机可读存储介质和计算机程序产品。

根据本公开的一方面，提供了一种运算装置执行的运算方法，包括：基于输入到运算装置中的第一向量的多个第一浮点数和第二向量的多个第二浮点数，获取与多个第一浮点数相应的二进制表示的多个第一定点数和多个第一阶码，以及与多个第二浮点数相应的二进制表示的多个第二定点数和多个第二阶码，其中，多个第一浮点数与多个第二浮点数一一对应，多个第一定点数和多个第二定点数中的每个定点数分别包括符号位以及第一预设数量的定点数值位；获取多个第一定点数中的每个第一定点数和与该第一定点数对应的第二定点数的定点乘积值及相应的定点乘积阶码；基于多个第一定点数分别相应的多个定点乘积值中的每个定点乘积值相应的定点乘积阶码，获取第一向量与第二向量的定点内积计算结果；以及基于定点内积计算结果，获取定点内积计算结果对应的浮点数据格式的浮点内积计算结果。

根据本公开的另一方面，提供了一种运算装置执行的运算方法，包括：获取第一矩阵和第二矩阵，其中，第一矩阵包括第一数量的行向量，第二矩阵包括第二数量的列向量，并且行向量与列向量的向量长度相同；根据上述用于计算向量内积的运算装置执行的运算方法，分别获取第一矩阵中的每个行向量与第二矩阵中的每个列向量的内积结果，以获取第一矩阵和第二矩阵的内积结果矩阵。

根据本公开的另一方面，提供了一种运算装置，包括：第一获取单元，被配置为基于输入到运算装置中的第一向量的多个第一浮点数和第二向量的多个第二浮点数，获取与多个第一浮点数相应的二进制表示的多个第一定点数和多个第一阶码，以及与多个第二浮点数相应的二进制表示的多个第二定点数和多个第二阶码，其中，多个第一浮点数与多个第二浮点数一一对应，多个第一定点数和多个第二定点数中的每个定点数分别包括符号位以及第一预设数量的定点数值位；乘法器，被配置为获取多个第一定点数中的每个第一定点数和与该第一定点数对应的第二定点数的定点乘积值及相应的定点乘积阶码；第二获取单元，被配置为基于多个第一定点数分别相应的多个定点乘积值中的每个定点乘积值相应的定点乘积阶码，获取第一向量与第二向量的定点内积计算结果；以及第三获取单元，被配置为基于定点内积计算结果，获取定点内积计算结果对应的浮点数据格式的浮点内积计算结果。