[发明专利]一种数据处理方法及装置

说明书

本发明实施例提供一种数据处理方法及装置，该方法应用于神经网络处理器，神经网络处理器包括缓存器，包括：获取包括输入权重和输入数据的待处理数据，输入数据为能够被卷积神经网络处理的数据；切割输入权重，得到多个切割粒度的权重，缓存器缓存多个切割粒度的权重；对多个切割粒度的权重和输入数据进行计算。实施本发明实施例，可以在保持处理效率的同时减小计算单元中的缓存。

技术领域

本发明涉及计算机技术领域，具体涉及一种数据处理方法及装置。

背景技术

神经网络处理器设置有存储单元和计算单元。存储单元用于存储从外部读入的数据。计算单元用于处理各种神经网络运算。计算单元在计算的过程中需要从存储单元读取数据。考虑到数据的复用以及存储单元带宽与计算单元计算速度的不匹配，计算单元进行计算的时候，需要将部分数据缓存在计算单元的缓存中。而过大的缓存不仅浪费，而且会影响整个神经网络处理器的功耗和面积以及后端的整体实现。因此，如何在保持处理效率的同时减小计算单元中的缓存已成为一个亟待的技术问题。

发明内容

本发明实施例提供一种数据处理方法及装置，可以在保持处理效率的同时减小计算单元中的缓存。

第一方面提供一种数据处理方法，所述方法应用于神经网络处理器，所述神经网络处理器包括缓存器，包括：

获取包括输入权重和输入数据的待处理数据，所述输入数据为能够被卷积神经网络处理的数据；

切割所述输入权重，得到多个切割粒度的权重，所述缓存器缓存所述多个切割粒度的权重；

对所述多个切割粒度的权重和所述输入数据进行计算。

由于对输入权重进行了切割，因此，每次需要缓存的权重较小，从而可以降低计算单元中的缓存，因此，在保持处理效率的同时可以减小计算单元中的缓存。

作为一种可能的实施方式，所述输入权重包括多个卷积核权重。

作为一种可能的实施方式，所述切割所述输入权重，得到多个切割粒度的权重，所述缓存器缓存所述多个切割粒度的权重包括：

按行切割所述多个卷积核权重中每个卷积核权重，得到多行权重，所述缓存器缓存所述多行权重；

所述对所述多个切割粒度的权重和所述输入数据进行计算包括：

对所述多行权重和所述输入数据进行计算。

卷积核权重按照行进行拆分之后，输入权重缓存中存入的是卷积核权重的每一行权重。因此，输入权重缓存只需要能够存的下卷积核权重的一行数据就可以。可见，按照行进行卷积核权重切割，不仅能够减少输入权重缓存的大小，同时能够保证输入数据缓存的大小以及读取次数与切割前一样。

作为一种可能的实施方式，所述输入数据包括多个通道数据，所述对所述多行权重和所述输入数据进行计算包括：

使用第一卷积核权重中第i行权重从第一通道数据的第i行开始划窗整个所述第一通道数据，得到第i结果，所述第一通道数据为所述多个通道数据中的任一通道数据，所述第一卷积核权重为所述第一通道数据对应的卷积核权重，i＝1,2,…,M，所述M为卷积核的行数；

将所述第i结果的累加和确定为所述第一通道数据与所述第一卷积核权重的计算结果。

作为一种可能的实施方式，所述切割所述输入权重，得到多个切割粒度的权重，所述缓存器缓存所述多个切割粒度的权重包括：

按单个权重切割所述多个卷积核权重中每个卷积核权重，得到多个权重，所述缓存器缓存所述多个权重；

所述对所述多个切割粒度的权重和所述输入数据进行计算包括：

对所述多个权重和所述输入数据进行计算。