[发明专利]一种支持多模式卷积计算的方法及装置

权利要求书

1.一种支持多模式卷积计算的方法，其特征在于，包括：

配置原始计算单元；所述原始计算单元包括依次连接的第一乘法器、第一移位器、选择器、第一加法器、第一寄存器以及FP16规范化处理器，还包括依次连接的第二乘法器、第二移位器、第二加法器以及第二寄存器；其中，所述第一寄存器的输出端连接第一加法器的输入端；所述第二寄存器的输出端分别连接第二加法器的输入端以及选择器的输入端；所述原始计算单元还包括第三加法器，所述第三加法器的输出端连接至第一移位器和第二移位器的输入端；

获取计算任务对应的计算模式；

根据计算模式将原始计算单元配置为当前计算单元；

采用所述当前计算单元执行所述计算任务，并输出计算结果。

2.根据权利要求1所述的方法，其特征在于，所述计算模式包括INT8计算模式、INT16计算模式或FP16计算模式。

3.根据权利要求2所述的方法，其特征在于，当所述计算模式为INT8计算模式时，所述将原始计算单元配置为当前计算单元的步骤包括：

分别将第一移位器和第二移位器配置为：将输入的数据不执行移位处理直接输出；

将FP16规范化处理器配置为：将输入的数据不执行FP16规范化处理直接输出；

将选择器配置为：将第一移位器的输出数据作为第一加法器的输入数据。

4.根据权利要求3所述的方法，其特征在于，所述当前计算单元中，第一乘法器和第一加法器、以及第二乘法器和第二加法器分别提供不同计算任务对应的乘累加计算。

5.根据权利要求2所述的方法，其特征在于，当所述计算模式为INT16计算模式时，所述将原始计算单元配置为当前计算单元的步骤包括：

将FP16规范化处理器配置为：将输入的数据不执行FP16规范化处理直接输出；

将选择器配置为：将第二寄存器的输出数据及第一移位器的输出数据作为第一加法器的输入数据。

6.根据权利要求2所述的方法，其特征在于，当所述计算模式为FP16计算模式时，所述将原始计算单元配置为当前计算单元的步骤包括：

将选择器配置为：将第二寄存器的输出数据及第一移位器的输出数据作为第一加法器的输入数据。

7.一种支持多模式卷积计算的装置，其特征在于，所述装置包括：

原始计算单元；所述原始计算单元包括依次连接的第一乘法器、第一移位器、选择器、第一加法器、第一寄存器以及FP16规范化处理器，还包括依次连接的第二乘法器、第二移位器、第二加法器以及第二寄存器；其中，所述第一寄存器的输出端连接第一加法器的输入端；所述第二寄存器的输出端分别连接第二加法器的输入端以及选择器的输入端；所述原始计算单元还包括第三加法器，所述第三加法器的输出端连接至第一移位器和第二移位器的输入端；

模式确定单元，被配置为根据计算任务确定对应的计算模式；

计算控制单元，被配置为根据不同的计算模式，选取原始计算单元中对应的元件组成用于计算的当前计算单元；

所述当前计算单元被配置为执行计算任务，输出计算结果。

8.根据权利要求7所述的装置，其特征在于，

当所述计算模式为INT8计算模式时，所述当前计算单元中：

第一移位器和第二移位器被配置为：将输入的数据不执行移位处理直接输出；

FP16规范化处理器被配置为：将输入的数据不执行FP16规范化处理直接输出；

选择器被配置为：将第一移位器的输出数据作为第一加法器的输入数据。

9.根据权利要求7所述的装置，其特征在于，

当所述计算模式为INT16计算模式时，所述当前计算单元中：

FP16规范化处理器被配置为：将输入的数据不执行FP16规范化处理直接输出；

选择器被配置为：将第二寄存器的输出数据及第一移位器的输出数据作为第一加法器的输入数据。

10.根据权利要求7所述的装置，其特征在于，

当所述计算模式为FP16计算模式时，所述当前计算单元中：

选择器被配置为：将第二寄存器的输出数据及第一移位器的输出数据作为第一加法器的输入数据。