[发明专利]一种连续运算的浮点矩阵计算加速方法及装置

权利要求书

1.一种连续运算的浮点矩阵计算加速方法，其特征在于，包括：

步骤S1：根据连续运算具体需求，按照四则运算的顺序排列计算任务；

步骤S2：开始第一个矩阵运算，并判断下一次运算模式：如果是矩阵乘运算，转入执行步骤S3，如果是矩阵加、矩阵减运算，转入执行步骤S4；

步骤S3：将中间计算结果暂时保存在片上RAM中，用于下一次矩阵运算的数据源，转入步骤S5；

步骤S4：将中间计算结果暂时保存到片外存储器，转入步骤S5；

步骤S5：进行下一个矩阵计算，重复步骤S2-步骤S4,直到所有矩阵计算完成，将最终计算结果传输到片外存储器。

2.根据权利要求1所述的连续运算的浮点矩阵计算加速方法，其特征在于，所述步骤S2包括：

步骤S201：根据待处理矩阵的操作类型，接收外部输入信号，判断矩阵运算模式：当运行模式是矩阵乘时，转入执行步骤S202，当运算模式是矩阵加、矩阵减时，转入执行步骤S203；

步骤S202：初始化片上RAM为零，转入执行步骤S204；

步骤S203：通过RAM通道加载数据源C到片上RAM中，转入执行步骤S204；

步骤S204：通过RAM通道预加载部分数据流A，而后边计算边加载数据流A和数据流B。

3.根据权利要求2所述的连续运算的浮点矩阵计算加速方法，其特征在于，所述矩阵计算包括矩阵乘、矩阵加、矩阵减运算中的一种或多种。

4.根据权利要求2所述的连续运算的浮点矩阵计算加速方法，其特征在于，所述数据源包括数据源A、数据源B、数据源C；其中，数据源A指第一个矩阵A，数据源B指第二个矩阵B，数据源C指片上存储的参与累加的矩阵。

5.根据权利要求4所述的连续运算的浮点矩阵计算加速方法，其特征在于，所述数据流与所述数据源相对应，包括数据流A、数据流B、数据流C。

6.根据权利要求1-5中任意一项所述的连续运算的浮点矩阵计算加速方法，其特征在于，所述矩阵乘运算是指矩阵A和矩阵B的乘积，即实现C_M×N＝A_M×K×B_K×N+C_M×N，其中数据流A、数据流B为输入数据流,数据流C在片上直接初始化为零。

7.根据权利要求1-5中任意一项所述的连续运算的浮点矩阵计算加速方法，其特征在于，所述矩阵加、矩阵减运算是指矩阵A和矩阵C的相加、相减，即实现C_M×K＝A_M×K×I_K×K±C_M×K，其中，数据流A、数据流C为输入数据流,数据流B为引入的单位矩阵I，其可直接在片上由一个计数器产生。

8.一种连续运算的浮点矩阵计算加速装置，其特征在于，包括：

预处理模块，用于根据待处理矩阵的操作类型，接收外部输入信号，判断矩阵运算模式；

数据传输控制模块，用于加载各数据源及返回数据计算结果；

矩阵计算加速单元模块为M个完全相同的基本处理单元组成的线性阵列结构，用于实现矩阵各类运算操作。

9.根据权利要求8所述的连续运算的浮点矩阵计算加速装置，其特征在于，所述基本处理单元包括一个浮点运算部件，1个寄存器和一个双端口RAM；所述双端口RAM按照地址划分为两部分：上半部分RAM1和下半部分RAM2。

10.根据权利要求9所述的连续运算的浮点矩阵计算加速装置，其特征在于，采用共享存储机制：

首先，用上半部分RAM1参与乘法运算，用下半部分RAM2参与累加运算并保存中间结果；

然后，通过切换地址，用下半部分RAM2参与下一次运算的乘法运算，上半部分RAM1参与累加运算和保存中间结果，如此交替；

最后，将一连串运算的最终结果传输到外部存储器。