[发明专利]数据处理装置及方法、处理器、芯片、计算机设备

说明书

本公开实施例提供一种数据处理装置及方法、处理器、芯片、计算机设备，所述数据处理装置包括：预处理模块，用于在输入矩阵中已缓存的输入参数的数量达到第一预设数量的情况下，从已缓存的输入参数中获取至少一组待读取参数，并按照获取各组待读取参数的顺序依次输出预处理矩阵中对应于各组待读取参数的第一参数；所述预处理矩阵基于输入转换矩阵对所述输入矩阵进行转换得到；点积处理模块，用于将预处理模块输出的每个第一参数与目标权重矩阵中对应的权重参数进行点积处理，得到点积处理结果；后处理模块，用于从各个第一参数对应的点积处理结果中选择目标点积处理结果，并基于所述目标点积处理结果获取所述输出矩阵中的输出参数。

技术领域

本公开涉及集成电路技术领域，尤其涉及数据处理装置及方法、处理器、芯片、计算机设备。

背景技术

卷积处理是实现神经网络处理电路中主要的计算之一，同时也是制约神经网络处理的重要瓶颈之一。基于Winograd的卷积运算方式通过对输入矩阵与权重矩阵进行特定的矩阵转换，能够完成等效的卷积运算任务并大量减少卷积运算过程的乘法运算。其中，用于对输入矩阵进行转换的矩阵称为输入转换矩阵，转换后的矩阵称为预处理矩阵。预处理矩阵中的每个参数可以通过对输入矩阵中的若干个输入参数进行加减法运算得到。

在常规的计算流程中，预处理矩阵中的参数会按照顺序依次生成，在获取预处理矩阵中的某个参数时，需要先将输入矩阵中用于计算该参数的输入参数送入运算单元。如果输入参数尚未送入运算单元，那么此时winograd后续的计算将被阻塞住，这将导致一次winograd卷积的延迟增加。

发明内容

第一方面，本公开实施例提供一种数据处理装置，用于对输入矩阵与原始权重矩阵进行Winograd卷积处理，得到输出矩阵，所述数据处理装置包括：预处理模块，用于在输入矩阵中已缓存的输入参数的数量达到第一预设数量的情况下，从已缓存的输入参数中获取至少一组待读取参数，并按照获取各组待读取参数的顺序依次输出预处理矩阵中对应于各组待读取参数的第一参数；所述预处理矩阵基于输入转换矩阵对所述输入矩阵进行转换得到；点积处理模块，用于将所述预处理模块输出的每个第一参数与目标权重矩阵中对应于所述第一参数的权重参数进行点积处理，得到点积处理结果，所述目标权重矩阵通过权重转换矩阵对所述原始权重矩阵进行转换得到；后处理模块，用于基于输出转换矩阵，从各个第一参数对应的点积处理结果中选择目标点积处理结果，并基于所述目标点积处理结果获取所述输出矩阵中的输出参数。

在一些实施例中，所述预处理矩阵还包括第二参数；所述第二参数在所述预处理矩阵中位于至少一个所述第一参数之前，所述第二参数在输入矩阵中已缓存的输入参数的数量达到第二预设数量的情况下获取，所述第二预设数量大于所述第一预设数量。

在一些实施例中，所述预处理模块用于接收计数器发送的读使能信号，每接收到一次读使能信号，获取并输出一个第一参数；其中，所述计数器用于对所述输入矩阵中已缓存的输入参数进行计数，并在计数值达到所述第一预设数量的情况下发送读使能信号，发送所述读使能信号的次数与所述第一参数的数量相关。

在一些实施例中，已缓存的输入参数的数量达到第一预设数量时各组待读取参数以及各组待读取参数的读取顺序记录在第一目标参数列表中；所述预处理模块用于：根据接收到所述读使能信号的次数，按照所述读取顺序从所述第一目标参数列表中读取各组待读取参数。

在一些实施例中，所述点积处理模块还用于：基于所述预处理模块输出所述第一参数的顺序，确定所述目标权重矩阵中对应于所述第一参数的权重参数。

在一些实施例中，所述目标权重矩阵通过离线方式获取。

在一些实施例中，所述后处理模块包括多个累加器，每个累加器用于获取所述输出矩阵中的一个输出参数。